回到时间线

7月17日周五07:47Open Source中国模型Infra / 成本中国模型指南

Moonshot AI 发布 Kimi K3:2.8 万亿参数开放 MoE 模型

Decision Brief

变化Moonshot AI 于 2026 年 7 月 16 日发布 Kimi K3,一个 2.8 万亿参数的开放 MoE 模型。
为什么重要2.8 万亿参数且仅激活 896 专家中的 16 个,推理成本远低于全参数模型,适合部署大规模开源模型的团队。
谁该关注开源模型用户
受影响技术栈Kimi
来源可信度 · 可靠媒体或一手报导

Moonshot AI 于 2026 年 7 月 16 日发布了 Kimi K3,这是一个 2.8 万亿参数的开放 MoE 模型。该模型基于 Kimi Delta Attention 和 Attention Residuals 技术构建,激活 896 个专家中的 16 个,上下文长度为 1M。 对于需要长上下文处理的开发者或研究团队,Kimi K3 的 1M 上下文窗口和稀疏激活设计可在保持高性能的同时降低计算成本。采用该模型的公司可节省推理资源,尤其适合文档分析、代码库理解等长序列任务。

摘要依据:官方/RSS 来源详摘依据上方标注的来源范围整理,内容以原文为准。

来源

  • MarkTechPost

    Fast research-paper and ML tooling summaries, useful for infra and agent updates.

  • MarkTechPost

相关情报

留言

登入后即可留言,和其他 builder 交换实测心得。

还没有留言,抢头香。