Google DeepMind员工因军事AI合同辞职

7 小时前

Christopher GilesBBC Eye 调查

Google 正面临部分员工对该公司将 AI 技术部署用于军事用途的强烈反对。

BBC 采访了多名科技从业者，他们最近要么已从 Google 的 AI 公司 Google DeepMind 辞职，要么正在离职；他们都对这家科技公司的军事合同感到担忧。

常驻伦敦的研究工程师 Sofia Liguori 就是其中之一。尽管合同限制她这样做，她仍于本周从 Google DeepMind 辞职，并只向 BBC 讲述了她的担忧。

“意识到我的公司正越来越积极地推动将 AI 系统用于军事行动，使我为自己在 Google 工作感到羞耻。”Liguori 说。她是以个人身份发表评论的。

Sofia Liguori 从 Google 辞职，称该公司推动将更多 AI 技术用于军事，使她为自己在那里工作感到“羞耻”

Supplied Sofia has short dark hair that is in a quiff style. She is wearing a black blazer and is standing in a room with a lamp and bookshelf in the background. — Sofia Liguori 从 Google 辞职，称该公司推动将更多 AI 技术用于军事，使她为自己在那里工作感到“羞耻”

对此，Google 发言人对 BBC 表示：“我们与全球各地的公共部门组织合作，并采用一致的流程审查和签订这些合同，包括确保遵守我们的可接受使用政策和 AI 原则。”

“我们还设有专门渠道，供员工安全提出各种担忧——从商业道德到不端行为——并制定了严格的职场政策，防止任何形式的报复。”

但 AI 技术发展迅速，批评者质疑，在没有更多测试、更强防护机制和人工监督的情况下，它是否足够可靠，可用于战争。

在公司工作三年后，Liguori 说，她因 Google 与美国和以色列军方开展的工作日益增多而决定辞职。她说：“我不同意这一方向，这使我不再相信我的公司会真正践行其宣称的伦理价值观。”

根据 Google 的 AI 原则，这些价值观包括在部署 AI 时确保“人工监督”，并使该技术符合“国际法和人权”。但 BBC 采访的该公司前员工、现任员工和专家认为，他们担忧关键时刻的人工监督程度。

美国国防部长 Pete Hegseth 于 1 月表示，美国将“成为一支‘AI 优先’的作战力量”

Getty Images Secretary Hegseth in front of US flags at The Pentagon — 美国国防部长 Pete Hegseth 于 1 月表示，美国将“成为一支‘AI 优先’的作战力量”

这些科技从业者表示，他们尤其担心今年签署的 AI 军事协议，因为这些协议大大扩大了五角大楼可以使用该技术的范围。

AI 研究员 Andreas Kirsch 也因相关担忧，于本月早些时候从 Google DeepMind 辞职。

Kirsch 告诉 BBC，他认为，“Google 的治理和监督不够充分，也不够有实质意义，无法在军事及涉密环境中安全、负责任地部署 AI”，也无法“在未来安全地开发人工超级智能”。

他补充道：“Google 似乎无权控制或否决五角大楼如何使用其 AI，而且似乎也难以了解该技术的部署情况。”

前 Google 员工 Andreas Kirsch 认为，目前的 AI 模型“稳健性不足”，无法用于军事用途

Supplied Andreas Kirsch has short dark hair and wears black-rimmed glasses. — 前 Google 员工 Andreas Kirsch 认为，目前的 AI 模型“稳健性不足”，无法用于军事用途

过去几年，美国军方已部署多种 AI 赋能技术，以提升其作战能力。

最突出的例子是 Maven Smart Systems，这是五角大楼用于组织情报和数据的主要软件平台。

该系统由美国国防公司 Palantir 开发，利用人工智能帮助军方人员选择和识别打击目标。Palantir 已将多家领先人工智能公司的技术整合进 Maven 系统，这一举措使得部分流程得以大幅提速。

Project Maven 前负责人、退役中将 Jack Shanahan 表示，当前的"理念"似乎是："以尽可能快的速度将 [人工智能技术] 部署得尽可能广，哪怕以牺牲测试与评估的严谨性和规范性为代价。"

然而，五角大楼坚持认为，采用人工智能技术对于赢得战争至关重要。美国国防部副部长 Emil Michael 在今年早些时候的一份声明中表示："在人工智能时代，速度决定胜利。"

Google 与五角大楼于今年早些时候签署的这份合同，允许其人工智能技术用于机密军事工作。协议规定 Google 的人工智能模型可用于"任何合法的政府用途"，且"不应在缺乏适当人类监督与控制的情况下用于国内大规模监控或自主武器（包括目标选择）"。

Google 的人工智能原则包括以"人类监督"的方式实施人工智能，并符合"国际法和人权"。

OpenAI、Amazon、Microsoft、SpaceX、Oracle、Nvidia 以及初创公司 Reflection 也签署了类似合同，允许人工智能技术部署于多种军事场景，例如运输、规划以及战场作战等。

随着技术迅速迭代，人们对人工智能应用于战区的担忧日益加剧。

前 OpenAI 地缘政治团队负责人 Sarah Shoker 表示："人工智能压缩了操作员做出决策所需的时间，因为它的运行速度远快于人类，而在高压环境下这尤其危险。"

"当有上百个由人工智能选定的目标、而时间又极为有限时，人类操作员几乎不可能对人工智能的输出进行有意义的错误审查。"

Google 的员工告诉 BBC，由于雇佣合同禁止他们公开批评公司，员工们不敢就人工智能安全及其在战争中的应用公开发言。

Sofia Liguori 告诉 BBC："原则上，我这辈子都不被允许批评 Google。"但她还是决定发声，"因为我认为这些事情被公众知晓很重要，而且我也认为陈述事实不算批评。"

Liguori 补充说，在 Google "员工们都害怕遭到报复，害怕危及自己的职业前途。你会觉得自己正在被监视，无法开口说话。"

Google DeepMind 的一名现任员工因担心报复而拒绝透露姓名，他告诉 BBC："许多因认同公司原始使命而加入的有志员工可能会离职——但同时也有一批处于职业生涯初期的储备人才可以填补这些职位。这可能是一次新旧交替。"

Google DeepMind 的另一名同样希望匿名的员工告诉 BBC："很多对公司（就 Google DeepMind 如何转变其伦理立场）有强烈看法的员工已经离开了公司。"

这名员工说："有些人还在抗争，另一些人则在思考：'这是一家大公司，你能指望它改变什么呢？'"

Google与以色列的协议也引发了争议。2024年，该公司因与亚马逊联合签订的名为 Project Nimbus、价值 12 亿美元（9.6 亿英镑）的合同而遭到员工批评。该合同向以色列政府和军方提供人工智能技术和云计算基础设施。当时，Google 表示 Project Nimbus"并非针对与武器或情报机构相关的高度敏感的、机密或军事工作负载"。

此外，以色列在战争中使用人工智能的能力一直备受争论。此前，一部名为《Naza》的纪录片探讨了人工智能驱动的目标定位系统在轰炸加沙地带中所扮演的角色，造成了严重平民伤亡，这部纪录片也聚焦了相关议题。以色列政府一名部长表示，影片中所提出的说法是虚假且扭曲的。

前 Google 员工 Andreas Kirsch 认为，人工智能技术尚不成熟，不适用于战场。"现有的人工智能模型还不够稳健，我认为它们也并未针对此类任务进行训练，"他说道。

补充报道：Rosa Rahimi