跳到正文
原文
HF Daily Papers·· 3 天前精选AI 评分45

Ask-to-Distill:利用合成数据实现在策略蒸馏

Ask to Distill: Learning to Synthesize Data for On-Policy Distillation

AI 导读

Ask-to-Distill 提出一种无需参考答案、正确性奖励或逐候选学生更新的合成问题优化框架,用于在策略蒸馏。它以冻结的师生模型组合计算问题价值,在数学推理、代码生成和智能体任务上提升平均表现及师生差距恢复效果,并在评测设置中达到或超过真实题库 OPD。代码、数据和模型已公开:https://github.com/GasolSun36/Ask_to_Distill。

推荐理由

论文提出在无参考答案时按蒸馏信号价值优化合成问题,并比较其在推理、编码和智能体任务中的效果。

来源:HF Daily Papers · huggingface.co