騰訊發布 Hy3:295B MoE 模型,21B 活躍參數、256K 上下文、Apache 2.0 授權
Decision Brief
變化騰訊 Hy 團隊推出 295B 參數 MoE 模型 Hy3,僅 21B 活躍參數,在 OpenRouter 免費提供至 7 月 21 日。
為什麼重要Hy3 以 21B 活躍參數比肩 2-5 倍參數量的開源旗艦模型,跑本地推理的開發者可大幅降低成本。
誰該關注開源模型使用者
受影響技術棧ClaudeHugging Face
建議動作更新 Claude 到最新版
來源可信度中 · 可靠媒體或一手報導
騰訊 Hy 團隊發布 Hy3,這是一個 295B 參數的混合專家模型,活躍參數僅 21B,另含 3.8B 的 MTP 層。全量模型在 HuggingFace 上 598GB,FP8 量化版 300GB,上下文長度 256K,採用 Apache 2.0 授權。在 4 月底 Hy3 Preview 後,團隊收集了 50 多個產品的回饋並用更高品質資料擴展後訓練,最終版本在類似規模模型中表現最佳,並可媲美 2-5 倍參數量的開源旗艦模型,在各種產品和生產力任務上也有顯著提升。目前 Hy3 已在 OpenRouter 上免費提供,截止至 7 月 21 日。 使用 Claude API 或自建推理服務的開發者可以直接在 OpenRouter 上測試這個輕量高能模型,尤其適合長上下文(256K)且對硬體要求較低的場景——FP8 量化版僅 300GB,遠小於同能力級別的全量模型。跑本地開源模型的團隊如果之前需要部署超過 600GB 的模型,Hy3 能讓資源佔用明顯下降。
摘要依據:官方/RSS 來源詳摘依據上方標註的來源範圍整理,內容以原文為準。
來源
- Simon Willison:Blog
Hands-on notes on LLM tools, local models, and practical AI engineering.
- Simon Willison:Blog