快讯 · 台北时间

Together 推出全程在美国境内处理的 serverless 推理端点

一句重點:首批 7 个开源模型可切换到美国境内的端点,只需更换 base URL,费用高出 25%。

發生什麼事

@togethercompute 宣布推出按地区划分的 serverless 推理端点,首批涵盖 7 个主流开源模型,推理全程在美国境内处理。切换时只需将 base URL 换成新端点,API key 和模型 ID 都无需更改,计费为标准费率的 1.25 倍。帖子未列出具体是哪 7 个模型,也没有提及其他地区的安排(🗣 自述)。

01参考来源

  • @togethercompute:Together 官方账号宣布推出在美国境内处理的 serverless 推理端点