跳到正文
原文
面壁 MiniCPM·· 3 天前精选AI 评分42

面壁发布 MiniCPM-V 4.7 35B-A3B:首个端侧无损推理的开源 MoE 多模态模型,附 int4 量化版

openbmb/MiniCPM-V-4.7-35B-A3B-int4

AI 导读

面壁 MiniCPM-V 4.7 35B-A3B 在 Hugging Face 开源,并同步推出 int4 量化版本,被官方称为首个在端侧可流畅运行且不损失性能的开源 MoE 多模态模型。

推荐理由

原文把 LES、细粒度分层量化和 DSpark 推测解码组合在一起作为端侧 MoE 的可迁移做法,并与 Qwen3.6 35B-A3B 直接比较效率与分数。

来源:面壁 MiniCPM · huggingface.co