面壁 MiniCPM·· 3 天前精选AI 评分55
面壁发布 MiniCPM-V 4.7 35B-A3B：首个开源端侧 MoE 多模态模型
openbmb/MiniCPM-V-4.7-35B-A3B-GPTQ
AI 导读
面壁发布 MiniCPM-V 4.7 35B-A3B，这是 MiniCPM-V 系列首个 MoE 多模态模型，结合 Lookahead Expert Scheduling（LES）跨层预测、层间细粒度量化和 DSpark 推测解码，在 iPhone 17 Pro Max 上以 13+ tokens/s 实现无损端侧流畅推理。
推荐理由
原文同时给出 iPhone 17 Pro Max 上 13+ tokens/s 的实测速度与 LES 调度、层间量化和 DSpark 推测解码三项技术细节，读者可据此评估端侧 MoE 推理的可行边界。
来源：面壁 MiniCPM · huggingface.co