HF Daily Papers·· 3 天前精选AI 评分36
ReMaRk:合并多份有效回复打分,去除 LLM 推荐 GRPO 训练中的回复选择噪声
Many Right Answers, One Training Example: Removing Responder Noise from GRPO for LLM Recommenders
AI 导读
ReMaRk 提出一种面向 LLM 推荐场景的强化学习方法,把每个请求的多份有效回复合并评分,去掉 Rank-GRPO 随机挑一条回复所引入的方差(占训练方差 85%)。
推荐理由
把同一请求下多份有效回复合并打分,作者在 7 个基座、3 个数据集上验证了这一可迁移规则对 RL 训练的提速效果。
来源:HF Daily Papers · huggingface.co