Together、米国内で処理するserverless推論エンドポイントを提供

發生什麼事

@togethercomputeは、地域別のserverless推論エンドポイントを提供すると発表しました。最初の対象は主要なオープンソースモデル7つで、推論処理は米国内で完結します。切り替え時に変更するのは新しいエンドポイントのbase URLだけで、API keyとモデルIDはそのまま使えます。料金は標準料金の1.25倍です。投稿では対象の7モデルも、他地域の扱いについても言及されていません（🗣 自述）。