跳到正文
原文
HF Daily Papers·· 6 天前精选AI 评分48

VisionWeave 为多模态大模型引入端到端弹性视觉表征

VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs

AI 导读

VisionWeave 为多模态大模型引入端到端学习弹性视觉表征的能力,结合门控空间池化器与粒度路由器两个组件。基于 Qwen3.8-27B(自蒸馏训练超过 30K A100 GPU 小时),平均节省 43.0% token 同时在八个基准上保持 98.9% 原生性能,显著优于固定 50% 剪枝基线仅保留的 88%。

推荐理由

给出了在多模态大模型中端到端学习弹性视觉表征的具体方法,并以 token 节省与吞吐数据展示相对固定剪枝方案的效率优势。

来源:HF Daily Papers · huggingface.co