Meta 与 Apple 合作让 Muse Spark Open 模型在 Mac 上运行更佳
决策简报
Brief- 发生了什么
- Meta 发布 Muse Spark Open 开放权重模型,通过与 Apple 合作优化 MLX 框架,可在两台 M5 Ultra Mac Studio 上本地运行。
- 为什么重要
- Meta 相关变化会影响 AI 产品团队的技术选型和发布判断。
- 影响谁
- 一般 AI Builder
- 建议动作
- 评估是否影响你的技术选型
- 地区可用性
- 暂未验证地区可用性差异。
关键事实
- Meta 发布 Muse Spark Open 开放权重模型,通过与 Apple 合作优化 MLX 框架,可在两台 M5 Ultra Mac Studio 上本地运行。 [src-the-verge-ai]
- 8160 亿参数、原生多模态的开放权重模型能在两台 Mac Studio 上跑起来,对想在本地部署大模型的团队意味着桌面硬件即可承担长任务推理。 [src-the-verge-ai]
待复核:missing_entities, missing_who_affected
Meta 今天发布 Muse Spark Open 模型,称其为“迄今最强美国开放权重模型”,总参数量 8160 亿,原生多模态,擅长长周期任务、复杂软件工程和多步推理。该模型通过与 Apple 合作优化,使用最新 MLX 框架可在两台 Apple M5 Ultra Mac Studio 上本地运行,被 Meta 称为同类中首个具备此能力的模型。Meta CEO 扎克伯格和 Apple 新任 CEO John Ternus 在 X 上互相致意,Meta 首席 AI 官 Alexandr Wang 向 Axios 表示双方已协作数月。Apple 同时发布技术文章,介绍 MLX 框架及 Muse Spark Open 等三个开放模型。 对在 Apple Silicon 上部署本地模型的开发者和团队而言,这意味着原本需要服务器集群的大规模开放权重模型,现在可以通过两台 Mac Studio 以 MLX 框架在桌面端推理,硬件成本和部署方式都有实质变化。使用 MLX 做端侧推理的团队需要关注新框架版本和模型权重获取方式。
摘要依据:已读全文详摘依据上方标注的来源范围整理,内容以原文为准。
来源
- The Verge:AI
Consumer AI products, platform shifts, and policy/culture impact.
- The Verge:AI
留言
登入后即可留言,和其他 builder 交换实测心得。
还没有留言,抢头香。