微软 CEO Satya Nadella 提议为 AI 模型加入紧急制动机制
Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
微软 CEO Satya Nadella 在 X 发文，提议将 AI 模型与其外部编排层分离，并为每一次关键模型行为留下可被人类读取且防篡改的证据，同时保证授权人员能随时在任务中途暂停或关闭模型。
微软 CEO 提出将模型与外部编排层分离，并加入类似紧急制动的可中断机制，为业界讨论 AI 安全架构提供了一个具体的工程化思路。
简报
发布时间：
2:47 PM PDT · October 10, 2026
微软 CEO Satya Nadella 是最新一位就如何改进 AI 安全发表长篇看法的科技高管。
在周六早上发布在 X 上的一篇帖子中，Nadella 写道,现在是时候"退后一步，评估 AI 的信任架构"了。
"我们不能把超级智能当作一组嵌套的黑箱，简单地接受或拒绝它的建议、答案和行动,"Nadella 写道,他使用的是特朗普政府对 AI 的偏好说法.
正如 Nadella 所阐述的,这种方法"意味着将模型与协调其工作的框架相分离",以及"将控制权和安全保障外部化"。他还呼吁将"每一个有意义的模型行动"以"防篡改的、人类可读的证据"记录下来,并要求系统始终允许"经授权的人员"能够"在任务进行中暂停或关闭一个模型"。
"我们必须假设模型已经受到损害,并从一开始就对其进行隔离,"他说道。"可以把它想成像是紧急刹车一样的装置。"
Nadella 的这些评论发表之际,领先的 AI 公司正在承认越来越多的它们似乎失去对模型控制的事件,也是在Anthropic CEO Dario Amodei 发表了一份推动 AI 更谨慎发展的计划之后。
来源：TechCrunch · techcrunch.com