快訊 · 台北時間

Together AI 推出 Together Compiler,讓 agent 持續調校推論效能

一句重點:它的重點是跟著正式流量持續最佳化推論。

發生什麼事

Together AI 發表 Together Compiler(@togethercompute)。目前這套系統每天處理的 token 已達數兆個。在客戶的工作負載上,官方說最多快 50%;拿來對照領先的 InferenceX 設定,則最多快 2.6 倍。

01參考來源

證據:🗣 官方自述,本站未實測。

  • @togethercompute:Together AI 官方帳號,2026/11/04 17:42 UTC 發文,宣布 Together Compiler