面壁 MiniCPM·· 5 天前精选AI 评分58
面壁 MiniCPM-V 4.7 35B-A3B 开源，FP8 等多种量化版本同步发布
openbmb/MiniCPM-V-4.7-35B-A3B-FP8
AI 导读
面壁 MiniCPM-V 4.7 35B-A3B 系列模型上线，其中 FP8 量化版本已托管在 Hugging Face。
推荐理由
原文详述了 MoE 模型在 iPhone 端侧流畅推理的工程组合并给出 13+ tokens/s 实测速度，对评估同类模型的端侧落地可行性有参考价值。
来源：面壁 MiniCPM · huggingface.co