TabPFN-3 与 TabFM 通过激活对齐缩小表格 In-Context Learning 的上下文差距

针对 TabPFN-3 与 TabFM 等表格基础模型，研究者提出激活对齐方法：训练轻量线性变换，将仅用部分上下文的"学生"中间激活映射到完整上下文"教师"的激活。该方法无需 GPU，在普通硬件上数秒至数分钟收敛；在 TabArena 基准 38 个分类数据集上，所有上下文预算下均带来统计学显著提升，低数据场景可恢复教师模型近一半性能优势。