稀疏自编码器中的表示重新分配与RSS分析

研究提出重新分配敏感性分数（RSS），用于识别稀疏自编码器中反复出现且方向一致的特征变化。在8个语言模型的27个预训练SAE上，提示词变换形成了可复现的重新分配特征；研究进一步区分表示变化、读出贡献和决策失败，两项冻结安全读出的复现失败AUROC分别为0.935和0.958。