Deep Fusion Memory：面向大语言模型的块级参数记忆架构

研究提出 Deep Fusion Memory（DFM），用因果记忆预测器生成 chunk 级参数记忆，并通过门控交叉注意力将其融入大语言模型的中间隐藏状态。训练时以语料检索到的 chunk 嵌入作为监督，在冻结骨干的条件下端到端训练预测与融合，推理时无需显式检索，构建训练数据所需的检索查询量和条目量分别少 32 times 和 2048 times。