Together AIがTogether Compilerを発表、エージェントで推論性能を継続的に最適化

發生什麼事

Together AIはTogether Compilerを発表しました（@togethercompute）。同社によると、このシステムは1日あたり数兆トークンを処理しています。顧客のワークロードで最大50%高速化し、有力なInferenceX構成との比較では最大2.6倍速くなるとしています。