返回 文章 apply CMS 文章

Muse Spark Open 发布:816B 开放权重多模态模型,首次在 Apple M5 Ultra Mac Studio 上本地运行智能体

Muse Spark Open 是迄今最强的美国开放权重模型,首次让领先智能体能力在桌面级 Apple M5 Ultra Mac Studio 上本地运行。

开放权重模型多模态智能体Apple Silicon
成长分 / 100 75 综合收获、行动、留存与影响

Muse Spark Open 发布:816B 开放权重多模态模型,首次在 Apple M5 Ultra Mac Studio 上本地运行智能体
为什么值得读了解当前开放权重模型在参数规模、上下文长度与多模态能力上的最新进展。

掌握在 Apple Silicon 桌面设备上本地运行大模型智能体的具体方案与硬件要求。

关键洞察
  1. Muse Spark Open 总参数 816B、激活参数 42B,上下文窗口达 100 万 token,原生多模态,专为编码和智能体工作打造。
  2. 它是其类别中首个使用最新 MLX 框架、通过两台 Apple M5 Ultra Mac Studios 在桌面运行的模型,两台机器可像一台拥有 1 TB 统一内存的超级计算机。
  3. 模型权重可在 Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face 和 Microsoft Foundry Models 下载,并可通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 的 API 使用。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:4597

Muse Spark Open 今日正式发布,首次将领先的智能体能力带到你的桌面,运行于 Apple M5 Ultra Mac Studios。

今天,我们发布了 Muse Spark Open 的权重,这是迄今为止能力最强的美国开放权重模型。Muse Spark Open 是一个原生多模态模型,总参数量 816B(激活参数 42B),上下文窗口达 100 万 token。它专为编码和智能体工作打造,擅长长周期任务、复杂软件工程和多步推理。

我们相信未来属于每个人,这包括在任何地方运行先进模型的自由,包括在家中。Muse Spark Open 是其类别中首个使用最新 MLX 框架、通过两台 Apple M5 Ultra Mac Studios 在你的桌面上运行的模型。

Muse Spark Open 今日起可通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 的 API 平台使用。模型权重可在 Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face 和 Microsoft Foundry Models 上下载。

它可在 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp 和 Unsloth 等领先推理引擎上运行,并针对 AMD、Apple、Intel 和 NVIDIA 芯片进行了优化。开发者可以使用 PyTorch 框架轻松进一步定制模型。

关键基准

有关我们评估的更多细节,请参阅评估方法报告。

针对 Apple Silicon 优化

利用最新版本的 MLX,Muse Spark Open 经过优化,可在搭载 M5 Ultra 的 Mac Studio 上运行,二者结合是在你自己的桌面上运行强大模型的最佳方式。

Apple 的统一内存架构让 M5 Ultra 的集成 GPU 每台 Mac Studio 可使用高达 512 GB 内存,因此两台机器可以容纳整个模型。该芯片 1.2 TB/s 的内存带宽足够快,可以读取每个 token 所需的小片数据。结果是两台 Mac Studio 表现得像一台拥有 1 TB 统一内存的超级计算机。

我们测试了一系列完全在设备上运行的智能体工作流,使用由 Muse Spark Open 驱动的 Muse Code,包括向 Ice Cubes(一个开源 Mastodon 客户端)提交真实的 iOS 更改——错误修复、新功能、完整构建——以及端到端驱动 DaVinci Resolve,模型逐帧审查素材以找到最精彩的瞬间并将其垂直裁剪。

现已可用

我们分享这项工作是因为我们希望每个人都能使用最好的模型。Muse Spark 的开放权重版本在 SGLang 中附带可自动调优的自定义 Helion GPU 内核,在 NVIDIA 和 AMD GPU 上实现 1.03-3.95 倍的内核级加速,在 AMD MI350 上实现 3% 的端到端加速。

安全与准备

发布开放权重模型是我们将个人超级智能的好处带给每个人的方式之一,也是安全工作在各个领域推进的方式之一。

开放权重也有其自身的考量,因此 Muse Spark Open 进行了额外的安全后训练。结果表明,在所衡量的风险类别中具有强大的保障措施。

我们依据 Meta 超级智能扩展框架 对模型进行了评估,覆盖了最严重的风险,并且它达到了我们框架所要求的发布阈值。详细结果见 Muse Spark Open 模型卡,完整评估报告即将发布。

许可证

我们依据 Muse 模型许可证发布权重,附带有限的商业条款,允许许多开发者免费使用该模型。

开始使用

你可以利用 PyTorch 的 TorchTitan 进一步微调模型,从而为你的用例定制 Muse Spark Open。要在 Apple 芯片上运行它,请使用 MLX,它会直接从 Hugging Face 拉取权重。

Muse Spark Open 现已通过 Hugging Face 提供:https://huggingface.co/collections/meta-models/muse-spark-open

MLX 适配器,用于在 Mac Studio 上运行 Muse Spark Open。

托管推理合作伙伴:Together AI、Fireworks、Baseten、Modal、Groq、Nebius 和 OpenRouter。

用 Muse Spark Open 构建或发布了什么?在 Hugging Face 论坛 上与我们分享——我们很想看看你创作的内容。