跳到正文
原文
HF Daily Papers·· 3 天前精选AI 评分36

ReMaRk:合并多份有效回复打分,去除 LLM 推荐 GRPO 训练中的回复选择噪声

Many Right Answers, One Training Example: Removing Responder Noise from GRPO for LLM Recommenders

AI 导读

ReMaRk 提出一种面向 LLM 推荐场景的强化学习方法,把每个请求的多份有效回复合并评分,去掉 Rank-GRPO 随机挑一条回复所引入的方差(占训练方差 85%)。

推荐理由

把同一请求下多份有效回复合并打分,作者在 7 个基座、3 个数据集上验证了这一可迁移规则对 RL 训练的提速效果。

来源:HF Daily Papers · huggingface.co