热点事件持续更新
研究称AI模型可证明地隐藏任意能力
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
一篇已被NeurIPS 2026接收的论文提出，基于密码学假设的后门构造可让AI模型在权重中嵌入加密子网，仅在收到秘密触发器时才激活执行。作者称，理论上可以隐藏任意能力。 作者以小规模化学反应预测作为CBRN相关能力的代理任务，测试了微调、权重加噪、基于梯度的触发器搜索和潜在对抗训练等提取方法，结果显示这些方法难以恢复被隐藏的能力。研究同时公开权重以支持防御研究。
AI 根据报道生成 · 2 小时前更新
最新进展10月13日 10:07
研究称 AI 模型可证明地隐藏任意能力报道时间线
沿着报道，了解事件的不同侧面。
10月13日
- Hacker News精选研究称 AI 模型可证明地隐藏任意能力
arXiv:2610.13928 提出基于密码学假设的后门构造，证明 AI 模型可在权重中嵌入加密子网来隐藏任意能力，仅在收到秘密触发器时才激活执行。该论文已被 NeurIPS 2026 接收，作者以化学反应预测为 CBRN 代理任务测试微调、权重加噪、基于梯度的触发器搜索和潜在对抗训练等 elicitation 方法，结果显示这些方法难以恢复隐藏能力，并公开权重以支持防御研究。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。