Moonshot AI 发布 Kimi K3:2.8 万亿参数开放 MoE 模型
Decision Brief
变化Moonshot AI 于 2026 年 7 月 16 日发布 Kimi K3,一个 2.8 万亿参数的开放 MoE 模型。
为什么重要2.8 万亿参数且仅激活 896 专家中的 16 个,推理成本远低于全参数模型,适合部署大规模开源模型的团队。
谁该关注开源模型用户
受影响技术栈Kimi
来源可信度中 · 可靠媒体或一手报导
Moonshot AI 于 2026 年 7 月 16 日发布了 Kimi K3,这是一个 2.8 万亿参数的开放 MoE 模型。该模型基于 Kimi Delta Attention 和 Attention Residuals 技术构建,激活 896 个专家中的 16 个,上下文长度为 1M。 对于需要长上下文处理的开发者或研究团队,Kimi K3 的 1M 上下文窗口和稀疏激活设计可在保持高性能的同时降低计算成本。采用该模型的公司可节省推理资源,尤其适合文档分析、代码库理解等长序列任务。
摘要依据:官方/RSS 来源详摘依据上方标注的来源范围整理,内容以原文为准。
来源
- MarkTechPost
Fast research-paper and ML tooling summaries, useful for infra and agent updates.
- MarkTechPost
留言
登入后即可留言,和其他 builder 交换实测心得。
还没有留言,抢头香。