Soofi 联盟发布 Soofi S 30B-A3B：面向德语和英语的开源混合 Mamba-Transformer MoE 基础模型
Decision Brief
变化Soofi 联盟发布了 Soofi S 30B-A3B，一个开源的混合 Mamba-Transformer MoE 模型，激活 31.6B 参数中的 3.2B，专门面向德语和英语。
为什么重要该模型在推理时只激活 3.2B 参数，显著降低部署成本，适合需要德语和英语支持的开发者及研究团队。
谁该关注开源模型使用者
受影响技术栈未识别出特定技术栈
来源可信度中 · 可靠媒体或一手报导
Soofi 联盟近日发布了 Soofi S 30B-A3B，这是一个开源的混合 Mamba-Transformer 混合专家（MoE）基础模型，总参数量为 31.6B，但每次推理仅激活 3.2B 参数。模型专门针对德语和英语优化，旨在为这两种语言提供高效的自然语言处理能力。该模型采用混合架构，结合了 Mamba 的状态空间模型和 Transformer 的自注意力机制，以平衡性能与计算效率。 对于需要处理德语或英语文本的 AI 开发者和研究机构，Soofi S 30B-A3B 提供了一个开源且高效的选项。其低激活参数特性使得在消费级硬件上运行成为可能，降低了大规模语言模型的部署门槛。此外，作为开源模型，社区可以自由微调或集成到现有工作流中，适合学术研究、企业应用或本地化部署。
摘要依据：官方/RSS 来源详摘依据上方标注的来源范围整理，内容以原文为准。
来源
- MarkTechPost
Fast research-paper and ML tooling summaries, useful for infra and agent updates.
- MarkTechPost
留言
登入后即可留言，和其他 builder 交换实测心得。
还没有留言，抢头香。