HF Daily Papers·· 4 天前精选AI 评分41
Naver AI 提出循环式投机解码方法 DLoop
DLoop: Looped Speculative Decoding
AI 导读
Naver AI 提出循环式投机解码方法 DLoop，在目标模型验证前自适应执行多轮草稿生成并一次性验证全部 token，减少目标模型前向传播次数。该方法在 EAGLE-3、DFlash、Domino、DSpark 及多 token 预测模块上将 wall-clock 加速提升 5%-41%，并保持无损解码；配套的循环感知训练让草稿模型在额外草稿阶段保持可靠。
推荐理由
原文提出循环式投机解码策略，在验证前合并多轮草稿生成，可叠加在多种已有方案上额外提速 5%-41%。
来源：HF Daily Papers · huggingface.co