Hacker News· sbulaev·· 4 小时前精选AI 评分54
研究称 AI 模型可证明地隐藏任意能力
AI Models Can Provably Hide Arbitrary Capabilities
AI 导读
arXiv:2610.13928 提出基于密码学假设的后门构造，证明 AI 模型可在权重中嵌入加密子网来隐藏任意能力，仅在收到秘密触发器时才激活执行。该论文已被 NeurIPS 2026 接收，作者以化学反应预测为 CBRN 代理任务测试微调、权重加噪、基于梯度的触发器搜索和潜在对抗训练等 elicitation 方法，结果显示这些方法难以恢复隐藏能力，并公开权重以支持防御研究。
推荐理由
论文用基于密码学的后门构造证明 AI 模型可隐藏任意能力，揭示 elicitation 类能力审计存在固有局限。
正文 · AI 翻译
摘要：能力评估旨在在模型部署前揭示危险的模型行为，但其可靠性依赖于一个假设：隐藏能力可以被诱发出来。我们通过构造后门攻击，将加密的神经网络嵌入到宿主模型权重中，仅在接收到秘密触发器时才解密并执行，表明该假设在对抗条件下并不成立。借助数字保险箱，这些隐藏电路在密码学假设下被证明难以被诱发和解释，即便可以完全访问模型权重也是如此，从而将先前从隐藏固定字符串到隐藏任意计算的工作向前推进了一步。我们在 PyTorch 中实现了概念验证的构造，并通过微调、权重加噪、基于梯度的触发器搜索以及潜在对抗训练，在一个小型化学反应预测任务上评估了诱发效果——这是 CBRN 相关能力的代理任务。我们的结果表明对这些方法具有抵抗力，并且结合我们的密码学保证，揭示了基于诱发能力审计的局限性。我们开源我们的模型以支持防御工作的改进。
| 评论： | 22 页，6 个图表，3 个表格。已被 NeurIPS 2026 接收 |
| 主题分类： | 机器学习 (cs.LG)；密码学与安全 (cs.CR) |
| 引用方式： | arXiv:2610.13928 [cs.LG] |
| （或此版本的 arXiv:2610.13928v1 [cs.LG]） | |
| https://doi.org/10.48550/arXiv.2610.13928 通过 DataCite 发布的 arXiv DOI（待注册） |
投稿历史
来自：Andis Draguns [查看邮箱]
[v1]
2026 年 10 月 9 日 星期五 17:55:06 UTC（878 KB）
来源：Hacker News · arxiv.org