期望:未来AI网关对外公布服务时,只需要采用固定path。 - 当收到请求时,通过路由规则根据请求体中的model类型判断转发目标集群。 - 选中集群后执行集群对应的Action,将path改写成下游大模型服务需要的path - 备用模型同样需要支持Action
期望:未来AI网关对外公布服务时,只需要采用固定path。