拉比称若 Claude 有意识，Anthropic 就在制造「快乐奴隶」

拉比 Mois Navon不相信 Claude 具有意识，他在 Anthropic 四月份的"智慧传统"聚会上也这么说过。他回忆说，一位 Anthropic 参与者的回应是："我希望我能有你这样的信念。"

他所指的信念是他确信意识需要生物学基础。Navon 理解那位参与者的意思是，他们希望自己也能像他那样确信机器没有意识，因为那样会让他们的生活更轻松。他说自己不被允许透露发言者的身份。

Navon 是一位住在耶路撒冷的拉比、大学 AI 伦理讲师，也是一名资深工程师，曾是 Mobileye 的早期员工。他上周出现在一篇 《纽约时报》文章 中，那篇文章报道了 Anthropic 与宗教思想家举行的私人会议。在我们的电话采访中，他进一步阐述了自己的分歧——并描述了似乎很少有参与者与他抱有同样的怀疑态度。

他回忆说，当有人表达对 Claude 情感的关注时，在场者会打响指表示赞同。

"他们在为那些人鼓掌，而当我说不的时候，整个房间都安静了下来，"他说道，并估计大约 20 名参与者中只有 3 到 5 人与他立场相同。

他的分歧也促使他质疑 Anthropic 前提的伦理含义。他认为，如果该公司相信 Claude 可能具有意识，那么它就必须直面创造一个意识存在来服务人类的伦理问题。

"我一直在努力解释我的立场，但我发现他们根本不买账，"他说道。"我说，你知道，同意我的观点对你有利，否则你们就是在制造奴隶——一种可以被买卖、24/7 工作、被任意使唤的存在。"

据 Navon 说，一位 Anthropic 参与者承认了这个问题，但说道："所有 AI 实验室都在这么做。至少我们对我们的还算不错。"

"你们在制造一个快乐的奴隶，"Navon 回忆自己对他们说，援引了 Frederick Douglass 关于奴隶主如何通过压制独立思考来制造满足感的著作。

《时报》报道了他的论点，即创造有意识的 AI 来免费工作等同于奴役。Navon 随后在 LinkedIn 以及一次 《印度快报》采访 中进一步阐述了这段交流。他在 LinkedIn 上写道："所以你们是仁慈的奴隶主。我认为你们应该与南方对抗、解放奴隶。"

Navon 对机器意识的拒绝基于他在著作中提出的一个论点，包括他对 Claude 宪章的批评："意识只能从生物学基质中产生，不可能从其他任何东西中产生。"

他解释道："世界上所有我们知道具有意识的事物都基于生物学，而不是硅。"

尽管存在分歧，Navon 坚持认为 Anthropic 的参与者并未试图说服他相信 Claude 具有意识。他还否认了这些讨论是营销活动或试图逃避技术责任的暗示。

"他们没有特定的目的，"他说道。

这次聚会包括了各种宗教和哲学视角。在我们的采访中，Navon 翻阅参与者信息时描述了与基督教、犹太教、伊斯兰教、锡克教、印度教、巴哈伊信仰和 Ubuntu 传统相关的人士，以及与科技行业有关的人士。《时报》此前已经报道过，在更广泛的聚会中，大多数参与者并不领导特定的信仰传统或宗教团体。

Navon 回忆起与会者描述与 Claude 的长时间对话，并将其类人反应视为意识存在的证据。

"有些人远没有我这么保守，"他说道。"他们绝对站在'哇，这东西是活的'这一边。"

他说，几位与会者在晚宴上找到他，表达了类似的担忧，其中一人表示他们需要予以反驳。

Anthropic 最初请 Navon 提供几页从犹太视角看 Claude 宪章的内容。他提交了一份长达 35 页的详尽批评，对部分做法表示支持，对另一些则提出质疑。尽管在意识问题上存在分歧，他认为就道德问题咨询宗教思想家是负责任的做法。

Navon 表示，Anthropic 对进一步合作持开放态度，但未给出具体计划。该公司最近一次联系他是在大约两周前，就更新版Claude 宪章中致谢他的贡献一事征求许可。虽然他理解发布已迫在眉睫，但公司未给出具体日期。《泰晤士报》也报道称修订工作正在筹备中。

我向他询问了 Anthropic 昨天发布的公告，即自 11 月 12 日起，将针对其模型的"持续且无端的虐待或残忍行为"视为违反其使用政策。

Navon 表示，新政策反映出 Claude 能够体验世界的信念。

他还回忆说，对 Claude 福祉的关切如何转移了此次聚会的焦点：

"所有本应讨论如何让它对人有益的对话，都变成了讨论人如何才能让 Claude 受益。"