HF Daily Papers·· 3 天前精选AI 评分41
REMORY：为长上下文智能体学习残差记忆压缩历史
REMORY: Learning Residual Memory for Context Compaction
AI 导读
REMORY 提出一种神经网络记忆模块，在文本摘要之外追加一段 soft memory tokens，让冻结的大语言模型仅用 5.2% 的输入位置就能逼近全量上下文的续写效果。
推荐理由
提出用学习型 memory tokens 补充文本摘要，让长上下文智能体仅占 5.2% 的输入位置就逼近全量上下文表现。
来源：HF Daily Papers · huggingface.co