跳到正文
原文
HF Daily Papers·· 2 天前精选AI 评分35

Waypoint-OPD:通过门控的 On-Policy 蒸馏迁移强化学习引起的策略变化

Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation

AI 导读

Waypoint-OPD 通过门控教师早晚期策略变化的方向一致性来改进从强化学习教师到学生的策略迁移蒸馏,在数学和代码推理六个领域-学生设置上均取得最高领域平均分。该方法以 Qwen3-4B 为教师、Qwen3-8B/14B/30B-A3B 为学生,相比仅用端点策略变化只需额外一次冻结教师打分;消融显示移除或打乱门控会降低数学推理表现。论文地址:arxiv.org/abs/2610.21601。

推荐理由

原文提出按教师早晚期策略变化的方向一致性来门控策略迁移蒸馏,为相关蒸馏改进提供了一种可复用思路。

来源:HF Daily Papers · huggingface.co