快讯 · 台北时间

Alibaba Cloud AI Gateway 智能路由上线,让网关为你选择执行模型

一句重點:调用方无需固定模型名称,只要设置偏好模式,网关就会从候选模型中选出本次执行所用的模型。

發生什麼事

Alibaba Cloud Blog 宣布 AI Gateway 智能路由上线。网关会先筛除协议、工具能力或上下文长度等条件不符的候选模型,再按调用方选择的模式进行决策,模式包括平衡、低成本、低延迟和高质量。在多轮对话仍围绕同一任务时,系统会沿用上一轮的执行模型;在 agent 工具调用链中,则会在任务开始时选定模型,之后始终使用同一模型。

01参考来源

证据:🗣 官方自述,本网站未实测。