快訊 · 台北時間

Alibaba Cloud AI Gateway 上線智慧路由,由閘道替你挑執行模型

一句重點:呼叫端不必寫死模型名稱,填一種偏好模式,閘道就從候選裡挑出這次要執行的模型。

發生什麼事

Alibaba Cloud 部落格宣布 AI Gateway 的智慧路由上線。閘道會先排除協定、工具能力、上下文長度等條件不合的候選,再依呼叫端選的模式做決定,模式分為綜合平衡、成本、低延遲與品質四種。多輪對話若還在同一件事上,會沿用上一輪的執行模型;agent 工具呼叫鏈則在任務開始時選一次,之後都留在同一個模型上。

01參考來源

證據:🗣 官方自述,本站未實測。