DiScoFormer：一个跨分布同时估计密度与得分的 Transformer

DiScoFormer 是 Ai2 提出的 Transformer 模型，可在单次前向传播中同时估计一组数据点的分布密度与得分，无需针对新分布重训。在 100 维场景下相对最优调参 KDE，其得分误差降低约 6.5 倍、密度误差降低超过 37 倍，并随样本增加持续提升而 KDE 出现内存不足。该模型可作为生成建模、贝叶斯推理等领域的高维得分即插即用组件复用。