Meta 发布开源权重模型 Muse Spark Open,主打编码与端侧运行
Muse Spark Open
Meta 发布开源权重模型 Muse Spark Open,总参数 816B、激活参数 42B,原生多模态并支持 1M token 上下文窗口,主打编码与长链路智能体任务。
Muse Spark Open 今日已可用,并首次在 Apple M5 Ultra Mac Studios 上将领先的智能体能力带到你的桌面。
今天,我们发布 Muse Spark Open 的模型权重,这是迄今为止美国最强的开放权重模型。Muse Spark Open 是一个原生多模态模型,总参数 816B(激活参数 42B),上下文窗口达 1M token。它专为编程和智能体工作而设计,在长周期任务、复杂软件工程和多步推理方面表现出色。
我们相信未来属于每个人,这包括在任何地方(包括在家中)运行先进模型的自由。Muse Spark Open 是同级别中首个可以在你的桌面上使用两台 Apple M5 Ultra Mac Studios 和最新的 MLX 框架运行的模型。
Muse Spark Open 今日已可通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 等 API 平台使用。模型权重可在 Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face 和 Microsoft Foundry Models 下载。
它运行于领先的推理引擎,例如 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp 和 Unsloth,并针对 AMD、Apple、Intel 和 NVIDIA 芯片进行了优化。开发者可以使用 PyTorch 框架轻松地进一步自定义模型。
关键基准
有关我们评估的更多详情,请参阅评估方法报告。
针对 Apple Silicon 优化
利用最新版本的 MLX,Muse Spark Open 经过优化,可以在配备 M5 Ultra 的 Mac Studio 上运行,两者结合是在你自己的桌面上运行强大模型的最佳方式。
Apple 的统一内存架构允许 M5 Ultra 的集成 GPU 在每台 Mac Studio 上使用多达 512 GB,因此两台机器可以容纳整个模型。该芯片 1.2 TB/s 的内存带宽足以读取每个 token 所需的小切片。结果是两台 Mac Studio 的表现就像一台拥有 1 TB 统一内存的超级计算机。
我们测试了完全在设备上运行的一系列智能体工作流,使用由 Muse Spark Open 驱动的 Muse Code,包括向 Ice Cubes(一个开源 Mastodon 客户端)交付真实的 iOS 更改——错误修复、新功能、完整构建——以及端到端驱动 DaVinci Resolve,模型逐帧查看素材以找出最强时刻并进行垂直裁剪。
现已可用
我们分享这项工作,是因为我们希望每个人都能使用最好的模型。Muse Spark 的开放权重版本在 SGLang 中附带定制、可自动调优的 Helion GPU 内核,在 NVIDIA 和 AMD GPU 上实现了 1.03-3.95× 的内核级加速,并在 AMD MI350 上实现了 3% 的端到端加速。
安全与准备
发布开放权重模型是我们如何将个人超级智能的惠益带给每个人的一部分,也是安全工作在整个领域推进的一部分。
开放权重模型也有其自身的考量,Muse Spark Open 因此接受了额外的安全后训练。结果表明,在所测量的各类风险中都有强有力的保障。
我们根据我们的Meta 超级智能扩展框架对模型进行了评估,涵盖最严重的风险,并达到了我们框架发布所要求的阈值。详细结果见Muse Spark Open 模型卡,完整的评估报告即将发布。
许可证
我们将依据 Muse Model License(附带有限的商业条款)发布权重,允许许多开发者免费使用该模型。
开始使用
你可以利用 PyTorch 的 TorchTitan 根据自己的用例对 Muse Spark Open 进行定制化微调。若要在 Apple silicon 上运行,请使用 MLX,它可直接从 Hugging Face 拉取权重。
Muse Spark Open 现已通过 Hugging Face 提供:https://huggingface.co/collections/meta-models/muse-spark-open
MLX Adapter,用于在 Mac Studio 上运行 Muse Spark Open。
托管推理合作伙伴:Together AI、Fireworks、Baseten、Modal、Groq、Nebius 以及 OpenRouter。
用 Muse Spark Open 构建或发布了什么?欢迎在 Hugging Face 论坛 上与我们分享——我们很期待看到你的创作。
来源:Hacker News · research.meta.ai