阶跃 StepFun 发布 198B 参数视觉语言模型 Step 3.7 Flash
StepFun 发布 198B 参数稀疏 MoE 视觉语言模型 Step 3.7 Flash,每 token 激活约 11B 参数,吞吐量最高 400 tokens/s,支持 256k 上下文窗口与低/中/高三档推理强度。
推荐理由:原文说明了该 198B MoE 模型针对高频生产与智能体工作流的定位,以及通过三档推理强度平衡成本与速度的设计取舍。
技术方向
怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。
383 条精选近 30 天 357 条共收录 438 条
StepFun 发布 198B 参数稀疏 MoE 视觉语言模型 Step 3.7 Flash,每 token 激活约 11B 参数,吞吐量最高 400 tokens/s,支持 256k 上下文窗口与低/中/高三档推理强度。
推荐理由:原文说明了该 198B MoE 模型针对高频生产与智能体工作流的定位,以及通过三档推理强度平衡成本与速度的设计取舍。
MiniMax 在 HuggingFace 发布 MiniMax-M2.7 模型,强调 Agent Teams、复杂 Skills 和动态工具搜索能力,并开放权重支持本地部署。
推荐理由:原文给出了与 Opus 4.6、GPT-5.4 等模型在多个工程基准上的横向对比,并附本地部署方式。
阶跃(StepFun)开源 Step 3.5 Flash 基座模型,总参数 196.81B,每 token 激活约 11B,采用稀疏 MoE 与 3-way Multi-Token Prediction(MTP-3)。
推荐理由:原文给出了 11B 激活参数下的稀疏 MoE 设计与多模型基准对比,可用于评估开放模型的推理与 Agent 能力边界。