OpenAI 據報將訪客 ChatGPT 使用者回應成本削減逾半
Decision Brief
變化OpenAI 將其 AI 模型推論成本削減逾半,並應用於 ChatGPT,使所需的 Nvidia GPU 數量有時降至僅數百個。
為什麼重要成本降低顯示模型營運效率提升,可能影響 API 定價及基礎設施規劃。
誰該關注依賴模型 API 的團隊、推理 / 基建團隊
受影響技術棧OpenAINVIDIA
建議動作觀察
來源可信度中 · 可靠媒體或一手報導
根據 The Information 報導,OpenAI 成功將其 AI 模型的推論成本削減逾半。該公司將這些優化應用於 ChatGPT,使所需的 Nvidia GPU 數量有時降至僅數百個,顯著降低訪客使用者的回應成本。
摘要依據:官方/RSS 來源如果不是「已讀全文」,這條詳摘只基於公開可取得內容,不會假裝讀過受限原文。
來源
- The Decoder:AI News
- The Decoder:AI News