HF Daily Papers·· 3 天前精选AI 评分36
LongR:通过密集效用奖励强化学习提升长上下文推理能力
LongR: Unleashing Long-Context Reasoning via Reinforcement Learning with Dense Utility Rewards
AI 导读
LongR 是一个通过强化学习提升大语言模型长上下文推理能力的统一框架,将「思考-阅读」机制与基于相对信息增益的上下文密度奖励相结合,无需证据标注即可量化相关文档的效用。
推荐理由
原文提出了基于相对信息增益的密度奖励设计,并在多套长上下文基准上给出可复用的提升幅度,为长上下文强化学习的奖励工程提供了一种具体方案。
来源:HF Daily Papers · huggingface.co