快讯 · 台北时间

Together AI 推出 Together Compiler,让智能体持续调优推理性能

一句重點:它的重点是跟随线上流量持续优化推理。

發生什麼事

Together AI 发布 Together Compiler(@togethercompute)。这套系统目前每天处理数万亿个 token。官方称,在客户的工作负载上最高可快 50%;与领先的 InferenceX 配置相比,则最高可快 2.6 倍。

01参考来源

证据:🗣 官方自述,本站未实测。

  • @togethercompute:Together AI 官方账号,2026/11/04 17:42 UTC 发文,宣布 Together Compiler