作者调侃 Anthropic 若信奉 AI 乌托邦或可取消退休福利

我之前提到过我对核武器历史与发展的兴趣。

目前，我正在读 Daniel Ellsberg 所著的 《末日机器：一名核战争规划者的自白》（他因 《五角大楼文件》 而闻名）。

第一章中，Ellsberg 讲述了自己在 RAND Corporation 工作的经历；那正值导弹差距时期，当时美国认为自己在核能力方面落后于苏联。

他的许多描述听起来与 Anthropic 之类机构发出的论调惊人地相似。例如，请注意在一家公司工作的宗教意味：

我爱 RAND，最终在那里度过了十年 [...] 我想，我在很大程度上就像宗教团体的成员那样，与同事们共享一种兄弟情谊，与他人一起生活和工作，为的是一个超越俗世的事业。

他们是内部人士：肩负着掌握他人所不具备的知识这一责任。

恰恰在我早期于 RAND 任职的导弹差距时期，以及在华盛顿担任顾问期间，我们有一种使命感；我们肩负着这样的责任：相信我们比五角大楼或 SAC 的将军们、比国会或公众、甚至比总统都更了解前方面临的危险，以及可以对此采取什么措施。这是一份令人振奋的重任。

那么，他们的“令人振奋的重任”是什么？拯救世界：

[我的同事们]与我分享了一种感受——这种感受很快也传达给了我——我们从最字面的意义上说，正在为拯救世界而工作。

真正让我印象深刻的是下面这段，Ellsberg 在其中描述了他和同事们如何真心相信末日即将来临：

根据我刚刚得以了解的空军情报评估，以及我的同事们向整个国家安全共同体传达的对苏联的悲观看法，我无法相信这个世界能够长久免于核浩劫。Alain Enthoven 和我是该部门中最年轻的成员。我们俩都没有参加 RAND 提供的这项极其优厚的退休计划。我们俩在二十多岁后期时，都不认为自己有机会从中领取退休待遇。

这让我想起有报道称 AI 研究人员开始吸烟，以此表达他们的信念：AI 会在吸烟杀死他们之前治愈癌症。

此时，如果听到 Anthropic 这样的实验室宣布取消所有由雇主提供的退休福利，我不会感到意外。为了表明他们坚信全民高收入即将实现，员工将作出一点小小的牺牲。（公司节省下的成本则会成为一份不错的额外收益。）