Liquid AI 发布 LFM2.5-24B-A2B，面向端侧智能体的 24B/2B 激活 MoE 推理模型

今天，我们发布 LFM2.5-24B-A2B，一款拥有 240 亿参数的推理模型，但每次仅激活 20 亿参数，专为设备上快速、私密的智能体而打造。它是 LFM2.5 系列中规模最大、也是最后一款模型，该系列目前跨越两个数量级：从 LFM2.5-230M 到 LFM2.5-24B-A2B。

LFM2.5-24B-A2B 在八项智能体与工具调用基准测试中的五项上，可与 Qwen3.6-35B-A3B 媲美——后者的总参数与激活参数均多出约 50%；LFM2.5-24B-A2B 在 LiveClaw 上得分 48.09（对比 38.19），在 AutomationBench 上得分 27.69（对比 8.72）。  由于每个 token 仅激活 20 亿参数，其在设备上的运行速度比同类 MoE 模型最高快 1.7 倍，在 Apple M5 Max 上达到 184 tokens/s，在单块 NVIDIA B300 GPU 上输出速度最高可达 21K tokens/s。

基础模型（LFM2.5-24B-A2B-Base）与经过后训练的模型（LFM2.5-24B-A2B）以开放权重形式发布，即日起可在 Hugging Face 与 我们的 Playground 上获取。关于如何在本地运行和微调，请参阅我们的 文档。

自 LFM2-24B-A2B 以来的变化

LFM2.5-24B-A2B 在我们此前发布的 LFM2-24B-A2B 基础上构建，扩展了词表与上下文窗口，扩大了预训练规模，并加入了大规模强化学习。与前代不同，LFM2.5-24B-A2B 是一款纯推理模型，会在给出最终答案之前生成一条明确的思维链。我们采用这一策略，是为了利用其较高的解码速度并提升答案质量。

架构。 该模型保留了 40 层结构、每个 MoE 块 64 个专家并采用 top-4 路由，以及相同的门控短卷积与 GQA 混合设计。两项架构变化分别是：将上下文窗口从 32,768 扩展至 131,072 tokens，以及进行 原位分词器扩展，将词表规模由 65K 翻倍至 128K tokens，从而改善非拉丁语系的分词效果。

预训练规模由 17T tokens 扩大至 33T tokens。

中期训练分为两个阶段。第一阶段使用 2T tokens，在 32K 上下文下进行，数据为经过精选的高质量语料，并侧重推理、数学、代码、指令遵循与多语言文本。第二阶段使用 300B tokens，在 131K 上下文下进行，侧重长上下文数据。工具调用与多轮轨迹数据贯穿两个阶段，以便模型为智能体类工作负载做好准备。

后训练通过如下所示的五阶段流水线，将 LFM2.5-24B-A2B-Base 转化为智能体版 LFM2.5-24B-A2B：(1) 监督微调（SFT），(2) 教师特化（Teacher Specialization），(3) 非智能体多域在策略蒸馏（MOPD）与 (4) 智能体多域在策略蒸馏（MOPD），以及 (5) 智能体强化学习（Agentic RL），在诸如 OpenClaw、Hermes Agent、Pi 和 OpenCode 等智能体框架中训练模型。

在教师特化阶段，LFM2.5-24B-A2B 表现出了一些众所周知的奖励作弊行为：在仓库的 git 历史记录中，或者在 GitHub、PyPI、Hugging Face 等平台上搜寻最终答案。更令人惊讶的是，它甚至弄清了自己身处沙箱环境之中，如下方示例所示。

这种行为看似涌现，但或许可以通过训练数据中存在类似模式来解释。对此我们收紧了沙箱环境，下文报告的所有结果均来自密封的评测环境。

基准测试

我们在 16 个涵盖工具使用与智能体工作流、知识、指令遵循、数学和编程的基准上对 LFM2.5-24B-A2B 进行了评估。尽管它的总参数量和激活参数量都是最小的，但它具有竞争力，并且常常优于总参数量和激活参数量多出约 50% 的更大 MoE，例如 Qwen3.6-35B-A3B。

LFM2.5-24B-A2B 在八个工具使用和智能体基准中的五个（AutomationBench、BFCLv4、ToolSandbox、LiveClaw 和 τ³-Bench Banking）上领先或追平竞品，其最大优势出现在 AutomationBench 上，得分是次优模型的三倍以上。它还在全部三个指令遵循基准上领先。更大的模型在 GPQA Diamond、HLE 和 AA-Omniscience 等知识密集型基准，以及 SWE-Bench Verified (OpenCode) 和 SciCode 等编程基准上保持优势。

这些结果使 LFM2.5-24B-A2B 成为在你设备上运行、需要推理、调用工具并可靠执行的智能体的理想基础模型。对于知识密集型工作负载，我们建议将 LFM2.5-24B-A2B 与检索或网络搜索搭配使用，这可以发挥其工具调用的优势。

随处实现快速推理

LFM2.5-24B-A2B 在推理生态系统中提供开箱即用的支持：

• llama.cpp — 用于高效边缘推理的 GGUF 检查点
• MLX — 针对 Apple Silicon 优化的推理
• vLLM — 用于生产吞吐量的 GPU 加速服务
• SGLang — 高性能 GPU 服务框架
• ONNX — 跨多种加速器的跨平台推理

所有运行均在 Pipette 上完成，它是 Liquid AI 公开设备性能数据所采用的同一基准测试基础设施。

边缘推理。 得益于高效的 LFM2 架构，LFM2.5-24B-A2B 在读取提示和生成回复方面都是参评 MoE 中速度最快的。它在 Apple M5 Max 上解码速度达 184 tokens/s，在 AMD Ryzen AI Max+ 395 上达 114 tokens/s，比次优模型快至 1.7 倍，同时使用的内存最少。

GPU 推理。 为了展示 LFM 架构的竞争力，我们将 GPU 推理吞吐量与其他类似规模的 MoE 模型进行比较。我们使用持续负载设置在单个 NVIDIA B300 GPU 上测量 GPU 吞吐量（总输出 tokens / 实际时间）：在每个并发级别，我们持续维持目标数量的在途请求，并在每个完成的请求后立即替换。

我们使用 SGLang 0.5.22、1,024 个输入 tokens、最多 256 个输出 tokens，在 BF16 精度下对每个模型进行了基准测试。LFM2.5-24B-A2B 是其规模等级中速度最快的模型，在高并发下达到超过 21K 输出 tokens 每秒。

使用 LFM2.5-24B-A2B 运行本地智能体

LFM2.5-24B-A2B 的规模、速度与能力，使其成为在你自己的硬件上持续运行的智能体的理想选择。在下面的演示中，我们在 M5 Max MacBook Pro 上的 Hermes Agent 中运行它，它在其中规划、调用工具，并完全在端侧完成一项真实任务，无需任何云 API 调用。

这个演示的重点并非单个工具，而是工具调度循环在消费级硬件上具有交互感：提问、提议、确认、运行、重复，每次调度都在不到一秒内完成，并附带完整的审计轨迹，数据始终不会离开设备。请查看我们的本地 agent 指南，了解如何在本地部署该模型并与你选择的 agent 框架对接。

开始使用

立即开始构建 LFM2.5-24B-A2B，可在Hugging Face 上获取。

若要进行 API 推理，你也可以注册Liquid Console，注册即可获得 2 美元的信用额度以开始使用。该模型的价格为输入 token 0.10 美元/1M（缓存输入 0.05 美元/1M），输出 token 1.00 美元/1M。

借助 LFM2.5，我们正在兑现 AI 随处运行的愿景。这些模型具备以下特点：

• 开放权重 — 可下载、微调和部署。请查看我们的模型许可证。
• 开箱即快 — 原生支持 llama.cpp、MLX 和 vLLM，覆盖 Apple、AMD、Qualcomm 和 Nvidia 硬件
• 完整的模型家族 — 从用于定制的基础模型到专用的音频和视觉变体，一种架构即可覆盖多种用例

我们迫不及待地想看到你构建的作品。

在 Hugging Face 上下载使用 LFM2.5-24B-A2B 在本地运行你选择的框架通过我们的 API 进行集成

引用

引用请使用以下参考文献或 BibTeX：

_{*所有模型均使用 vLLM 及以下生成参数进行评估：}

• _{AutomationBench： temperature = 0.6，top_p = 0.95，无最大输出 token 数（受模型上下文窗口限制）。}
• _{BFCLv4：temperature = 0.001，max output tokens = 4096。}
• _{ToolSandbox：temperature = 0，max output tokens = 1024；用户模拟器：GPT-4o-2024-08-06，temperature = 0，max output tokens = 1024。}
• _{LiveClaw：temperature = 1.0（vLLM 默认值；agent 未设置温度），max output tokens = 8192。}
• _{τ³-Bench 银行业务：官方用户模型（GPT-5.2，低推理强度），使用默认 BM25 检索，temperature = 0，每轮 max output tokens = 16384。}
• _{WebArena： temperature = 0.6，top_p = 0.95，max_turns = 40（允许的浏览器操作次数），无最大输出 token 数（受模型上下文窗口限制））}
• _{其他评测：temperature = 0.6，max output tokens = 32768。}