HF Daily Papers·· 2 天前精选AI 评分47
Prox：MoE 解码的通道选择无需校准数据
Channel Selection for Mixture-of-Experts Decoding Needs No Calibration Data
AI 导读
Prox 用 top-k 通道选择替代依赖离线校准数据的阈值筛选，并提出完全由模型权重构建的 reader，以加速 MoE 推理。在 13% 和 18% 读取预算下的 43 组比较中，top-k 版本有 40 组匹配或超过阈值版本，其中 23 项生成任务比较均达到或更优，并避免 Gemma 4 上阈值筛选导致的重复循环崩溃。
推荐理由
论文以 top-k 替代校准阈值，并在 3 个后训练 MoE 模型上对比读取比例、准确率与推理速度。
来源：HF Daily Papers · huggingface.co