HF Daily Papers·· 6 天前精选AI 评分48
VisionWeave 为多模态大模型引入端到端弹性视觉表征
VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs
AI 导读
VisionWeave 为多模态大模型引入端到端学习弹性视觉表征的能力,结合门控空间池化器与粒度路由器两个组件。基于 Qwen3.8-27B(自蒸馏训练超过 30K A100 GPU 小时),平均节省 43.0% token 同时在八个基准上保持 98.9% 原生性能,显著优于固定 50% 剪枝基线仅保留的 88%。
推荐理由
给出了在多模态大模型中端到端学习弹性视觉表征的具体方法,并以 token 节省与吞吐数据展示相对固定剪枝方案的效率优势。
来源:HF Daily Papers · huggingface.co