Anthropic 公开与独立评估方 METR 等机构的合作进展

上个月，我们承诺对我们的模型和安全实践进行更强大的独立第三方评估。我们还签署了关于超级智能的白宫协议（White House Accord on Super Intelligence），其中各公司承诺与独立外部审计机构或评估机构合作。今天，我们宣布已开始向来自METR（一家评估前沿 AI 模型的非营利组织）的团队提供类员工访问权限。

METR 将公布其风险评估的结果。在过去一年中，我们与 METR 合作对我们的风险报告进行了多次审查。我们还与SecureBio和Accenture合作担任评估机构，并与包括Hugging Face在内的其他几家机构进行了初步讨论。

在这里，我们解释了我们与评估机构合作的方式。

为什么我们与独立评估机构合作

随着模型变得更强大，它们需要更强的安全保障和更具挑战性的风险评估。我们希望为我们所做的决策承担公开责任。但我们无法公开分享与安全工作相关的所有信息。其中一些信息可能对恶意行为者有用，或具有商业敏感性，如算力或训练信息。因此，我们正在给予第三方评估机构对我们信息的深度访问权限，并让它们分享关于构建模型所涉及风险的证据和合理的结论。我们的目标是缩小评估机构对前沿 AI 公司系统的理解与公司自身理解之间的差距。

要评估前沿模型，评估机构需要具备以下条件：

• 具备评估前沿模型能力的专业知识，包括理解评估可能出错的方式，例如对齐伪装。
• 独立性：它们不应持有被评估公司的股权，也不得在财务或运营上依赖于该公司。
• 足够的访问权限，以便有意义地评估风险。除了访问最新模型之外，评估机构还需要了解这些模型的训练方式、我们的安全保障机制如何运作等。
• 自由发布对模型或流程的 观察和评估。

尽管这个类比并不完全准确，但银行监管遵循类似的逻辑。银行比外部人士更了解自身的风险状况，因此监管机构会派驻场检查员到最大的银行内部工作。如果银行的风险承担行为可能威胁公众，第三方会努力提前发现这一点。

对于 AI 行业来说，这是迈向强有力的安全监督的一步。我们正与多家评估机构迅速推进，并积极了解哪些类型的合作关系有效。我们承诺在过程中分享最新进展。

我们所说的"类员工访问权限"是什么意思

我们已为六名 METR 员工配备公司硬件、办公空间以及对我们内部工具和系统的访问权限，这些权限大致与我们自己的风险评估团队相当。除了一小部分明确定义的类别（例如客户数据、律师-客户特权信息或关于我们模型架构的信息）之外，Anthropic 员工被鼓励与他们分享信息，就像与一位从事对齐风险工作的同事分享一样。¹

METR 将发布对我们风险等级、事件或实践的分析。Anthropic 不能否决其发布，但我们可以要求其对属于上述狭义、预定义类别的信息进行删减。METR 可以公开描述我们的删减内容，并说明其是否认为这些删减是合理的，只要不泄露被删减的信息即可。

我们与 METR 的合作仅限于一个在可执行协议下运作的小团队。其他 METR 员工与该团队的工作相互隔离，包括在其他项目中与我们合作的研究人员。嵌入式评估使少数符合资格的人员在 Anthropic 安全标准下工作，能够近距离了解我们的运营方式。这并不是其他组织获取我们信息或我们客户与合作伙伴信息的途径。

我们的其他评估方合作

我们正在推进其他几项合作。由于这些合作仍处于早期阶段，我们向这些评估方提供的信息较为有限，他们的发布权利也较为有限。我们开展这些早期合作的目的，是确保合作伙伴能够保护机密信息，并具备评估我们模型所需的资源和专业知识。随着合作的推进和我们信任的建立，我们希望能够全面嵌入更多独立评估方。

我们正在为评估方建立三级访问权限。我们希望在未来有几家评估方达到第三级，每个团队都能发布其对我们风险态势和关键决策的分析。

在第一级，评估方进行范围狭义的风险调查。我们决定向第一级评估方提供哪些访问权限，评估方可以在我们批准后发布其发现。

在第二级，评估方可以在未经我们批准的情况下发布，并且能够访问更多信息。我们仍然可以要求删除特定类别的信息，但评估方可以发布其对删减是否合理的看法。

第三级就是我们与 METR 所述的合作安排，访问权限与员工类似，发布权利与第二级类似。

SecureBio 目前处于第一级。该机构正在审核我们八月风险报告中的化学和生物武器章节，此前已完成并发布了对上一份风险报告的试点审核。本次审核完成后，我们将考虑转向具有更高访问权限和发布权利的项目。

与 Accenture 和 Faculty 合作，我们正致力于建立一项雄心勃勃的合作关系，包括评估模型并进行红队测试、开展对齐评估、测试模型安全防护，以及在我们各机构之间建设能力。

我们自愿嵌入评估方，并相信每一家前沿 AI 公司都应如此。

相关内容

为 2026 年美国中期选举做准备

今年早些时候，我们分享了关于选举保障措施的更新。在此，我们概述了在今年的美国中期选举之前，我们如何持续加强这些保障措施。

阅读更多

Anthropic 在新加坡开设办事处并与新加坡政府签署谅解备忘录

Anthropic 已在新加坡开设办事处，并与该国政府签署谅解备忘录，以推动安全、负责任的 AI 采用。

阅读更多

2026 使用政策更新

我们正在发布新版本的使用政策。在本文中，我们将总结我们所做出的更改。

阅读更多