面壁 MiniCPM·· 2 小时前精选AI 评分39
面壁 MiniCPM 开源 MiniCPM-V-4.7-35B-A3B 的 DSpark 投机解码草案模型
openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf
AI 导读
面壁 MiniCPM 在 Hugging Face 开源 MiniCPM-V-4.7-35B-A3B-DSpark，这是专为 MiniCPM-V-4.7-35B-A3B 配对的 DSpark 投机解码草案模型，含 5 层约 3.89 亿参数，单次前向生成 15 个 token，使用 200 万样本训练 6 轮 AdamW。
推荐理由
DSpark 草案模型的训练配方与 vLLM、llama.cpp 的投机解码接入示例都在原文给出，为 MiniCPM-V-4.7 的推理加速提供了一个现成方案。
来源：面壁 MiniCPM · huggingface.co