Llama
6 条事件 · Model/API、Open Source、ToolsMeta 的开放权重模型线,适合追踪本地部署、开源生态与模型权重更新。
COMPARE · DECISION INTEL
基于 Scoutari 已发布事件,对比 Llama 与 Moonshot AI 的近期产品、模型、工具和生态变化。
SIGNALS
EVENTS · 10
这一表现可能促使中国 AI 开发者重新评估本土模型能力,并影响国际竞争格局。
2.8 万亿参数且仅激活 896 专家中的 16 个,推理成本远低于全参数模型,适合部署大规模开源模型的团队。
K3 的 2.8T 参数和更高定价($3/M 输入、$15/M 输出)意味着调用其 API 的开发者需要评估成本,但其长程知识任务 Elo 仅次于 Claude Fable 5,且前端代码评测登顶,对需要高质量代码生成的团队有吸引力。
9750亿参数规模接近头部闭源模型,但定价1.87美元/百万输入token且定位为微调基座,实际部署性价比需要仔细评估。
Kimi Delta Attention 使解码速度提升 6.3 倍,Attention Residuals 提高训练效率 25%,对需要长上下文和高效推理的开发者是重大利好。
对使用 Ollama 本地运行大模型的开发者来说,新增的 Agent 能自动分解编程任务,集成改名和简化菜单可降低切换工具的成本。
新增 Agent 核心整合和 CUDA 回退,让使用本机 Ollama 的开发者能更好地支援 JetPack 环境与长流程自动化。
CUDA CC 6.x GPU 的 Flash Attention 启用与 JetPack CUDA 降级机制,提升了旧架构与边缘设备的推理效能与相容性。
多令牌预测无需配置即可使编码代理任务的令牌生成速度平均提升 90%,本地推理效率大增。
AI builder 需要关注此模型因极小的参数规模和高效的端侧推理能力,对于工具使用和数据提取任务表现优于更大模型,有助于资源受限场景的应用。