跳到正文
原文
HF Daily Papers·· 1 天前精选AI 评分40

CriticOPD:用批评引导的 On-Policy 蒸馏恢复可靠监督

Recovering Reliable Supervision via Critique-Guided On-Policy Distillation

AI 导读

CriticOPD 提出一种批评引导的 On-Policy 蒸馏方法,让教师用参考答案批评学生错误续写,学生据此重写后续内容,再由教师对重写后的后缀打分而学生不直接看到反馈。该方法在六个数学推理基准上比 OPD 平均准确率提升 4.57 个百分点(Qwen3-1.7B)和 4.06 个百分点(Qwen3-0.6B),竞赛题上增益最大。

推荐理由

原文指出 on-policy 蒸馏中教师跟随学生错误解的机制问题,并给出可复现的批评改写流程与基准提升幅度。

来源:HF Daily Papers · huggingface.co