SPEX 与 ProxySPEX：面向大语言模型的可扩展交互识别方法

Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法，用于在大语言模型中以可扩展方式识别驱动模型行为的特征交互。方法借助信号处理与编码理论，基于稀疏性与低阶性假设将指数级搜索重构为可解的稀疏恢复问题；ProxySPEX 进一步利用层级结构，以约 10 倍更少的消融次数达到与 SPEX 相当的性能，可应用于特征归因、数据归因与模型组件归因等可解释性任务。