Together AI 推出 Provisioned Throughput，為開源前沿模型提供保留推理容量
Decision Brief
變化Together AI 發布 Provisioned Throughput，為 MiniMax M3 和 GLM-5.2 等開源模型提供保留推理容量，基於 Token 計費、99% 可用性 SLA，成本比專有 API 低 90%。
為什麼重要使用開源模型的開發者現在可以用固定 Token 價格獲得保留容量，無需管理 GPU 基礎設施，成本優勢顯著。
誰該關注依賴模型 API 的團隊
受影響技術棧GLM
建議動作值得評估：GLM 能否替代或補充你現在用的模型
來源可信度高 · 官方發布 / 官方 blog / 官方 repo
Together AI 宣布推出 Provisioned Throughput 服務，為 MiniMax M3 和 GLM-5.2 等前沿開源模型提供保留推理容量。該服務採用基於 Token 的計費模式，提供 99% 的正常運行時間 SLA，並聲稱成本比專有 API 低 90%。用戶無需計算 GPU 時數或管理基礎設施，即可獲得可預測的推理性能。 對於依賴開源模型進行生產部署的開發團隊，這項服務簡化了容量規劃和成本控制。特別是那些需要穩定推理吞吐量的應用場景，如實時對話、內容生成或大規模批處理，可以避免因突發負載導致的可用性問題。此外，Token 計費模式讓成本更透明，便於預算管理。
摘要依據：官方/RSS 來源詳摘依據上方標註的來源範圍整理，內容以原文為準。
來源
- Together AI
Open-model hosting, inference, and fine-tuning infrastructure for builders.
- Together AI
留言
登入後即可留言，和其他 builder 交換實測心得。
還沒有留言，搶頭香。