阶跃开源 Step 3.5 Flash 基座模型,总参数 196B 每 token 激活约 11B
阶跃(StepFun)开源 Step 3.5 Flash 基座模型,总参数 196.81B,每 token 激活约 11B,采用稀疏 MoE 与 3-way Multi-Token Prediction(MTP-3)。
推荐理由:原文给出了 11B 激活参数下的稀疏 MoE 设计与多模型基准对比,可用于评估开放模型的推理与 Agent 能力边界。
技术方向
怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。
361 条精选近 30 天 335 条共收录 413 条
阶跃(StepFun)开源 Step 3.5 Flash 基座模型,总参数 196.81B,每 token 激活约 11B,采用稀疏 MoE 与 3-way Multi-Token Prediction(MTP-3)。
推荐理由:原文给出了 11B 激活参数下的稀疏 MoE 设计与多模型基准对比,可用于评估开放模型的推理与 Agent 能力边界。