發生什麼事
Together AI 發表 Together Compiler(@togethercompute)。目前這套系統每天處理的 token 已達數兆個。在客戶的工作負載上,官方說最多快 50%;拿來對照領先的 InferenceX 設定,則最多快 2.6 倍。
01參考來源
證據:🗣 官方自述,本站未實測。
- @togethercompute:Together AI 官方帳號,2026/11/04 17:42 UTC 發文,宣布 Together Compiler
一句重點:它的重點是跟著正式流量持續最佳化推論。
Together AI 發表 Together Compiler(@togethercompute)。目前這套系統每天處理的 token 已達數兆個。在客戶的工作負載上,官方說最多快 50%;拿來對照領先的 InferenceX 設定,則最多快 2.6 倍。
證據:🗣 官方自述,本站未實測。