人非孤岛:AI 如何瓦解知识共同体
No Man Is an Island
作者论证 AI 正在瓦解知识共同体,使个人长期智识活动失去外部激励与共享积累。文章以软件工程为例:Claude Code 发布一年多后,生产力上升但行业话语变浅、向开源贡献与撰写技术文章也失去意义;由此推及数学等所有智识活动,作者认为一旦贡献变得多余,长期个人创作将难以维系。
作者以软件工程为例,论证 AI 如何瓦解知识共同体,进而使个人长期智识活动失去动力与共享基础。
在这篇文章中,我认为个人的智识活动只有在由他人构成的智识社群中才能持续。AI 瓦解了这些社群,进而让私人的智识活动变得更加稀少。
软件领域
几年前,当 AI 显然将解决软件工程问题时,我的想法是:
- 在我的职业生涯中,我很乐于向上迈一步,成为 AI 智能体的管理者。我有读写能力,也是一名优秀的技术写作者,我可以描述我想要什么,然后让 AI 智能体来写代码。
- 在我自己的时间里,我可以继续做我在意的事,因为这些事本身就令我乐在其中。这就是软件工程中"智识性"的一面:阅读技术博文和论文、学习新的编程语言、设计新的编程语言、撰写技术随笔、为我那些小型的开源项目编写代码。
第二点并没有完全如预期般实现。实际发生了什么?首先,软件工程的话语空间变差了。正如我此前所写:
Claude Code 发布至今略多于一年。在那短短的时间里,软件工程被彻底改写了。在物质层面,这或许是积极的:生产力提高了,代价则是代码库变得更加混乱。在社会层面,这是一场灾难。
围绕软件工程的讨论变得更蠢了。就好像行业里的每个人都掉了 30 点智商。过去人们讨论编译器、类型系统、逻辑。现在人们讨论"提示词"、"脚手架"、"循环"。讨论变得更狭窄、更浅薄、更机械重复。"agent 脚手架"这个词我听不了几次就要发疯。
其次是人力资本积累的流失:没有什么可学的了。提示工程算不上是一门技能,至少,它比软件工程要浅薄得多。工作的工具性维度确实改善了——人们可以用更少的努力获得更多的产出——但工作关涉人力资本积累的那一维度已经坍塌。也许这是合理的。干嘛还要学写代码?电脑可以替我们做这件事。于是,成为一名优秀程序员所必须练习的那种严谨的、系统性的思考:全部消失了。机器可以替我们理性思考。我们只管 vibe 就好。
其次,向软件工程的公共知识池做贡献也越来越没有意义。AI 出现之前,你可以发布开源代码、写博文来分享观点或启发他人、写诸如教程、论坛帖子、教科书之类的阐释性文本去教人。AI 之后,这些还有什么意义呢?
- 你写了一篇博文:谁来读它?下一轮训练会把它吞进去,仅是把 AI 的能力推进了一点点。也许这篇博文是为了绕开某个晦涩的技术问题,所以下次有人遇到那个问题时,他们会去问 Claude,而 Claude 会解决问题而不会注明出处。也许你对如何组织大型代码库有一些洞察:那又怎样?反正人类已经不再做这些决策了。
- 你设计了一门颠覆性的新编程语言:那又怎样?也许 Claude 会关心,但这种关心也值不了什么。可人类已经不再写代码,甚至不再读代码了。编程语言成了一个实现细节,人类已经不必再关心。
- 你写了一个库,并把它发布到 GitHub:那又怎样?AI 或许会发现它,并使用它,但操作者根本不会知道你的存在,也不知道你做过什么。
这不仅仅是“你无法获得 GitHub star 或博客流量”的问题;而是不存在一个可以贡献的共同人类项目的感觉。你拥有自己的私人代码花园,你可以在 AI 的帮助下向各个方向无限扩展,但你永远不必离开花园去集市与他人交易。在这种条件下,很难在乎或做任何事情。
但这真的重要吗?如果我们不再撰写关于冷门 JavaScript 特性的博客文章,不再设计新的编程语言,这重要吗?也许编写代码一直都是苦差事,而如今我们可以转向更高的事物,比如数学——哦,等等。
知识分子的生活
通过观察软件工程领域发生了什么,以及目前数学领域正在发生什么,我认为我们可以得出一些关于知识分子活动的一般性洞见。
我们倾向于将知识活动视为私人和孤独的:哲学家坐在扶手椅上,从头推导整个世界 ab initio。但知识活动有两个无法在孤立中获得的输入:一共同的工作成果可供我们构建,以及动机。共同的工作成果是公共的,除非你愿意重新梳理整棵技术树。动机可以分解为两个组成部分:
- 内在动机:我们为学习而学习,我们出于一种无法理解的冲动来创造艺术,等等。
- 外在动机:David Chapman 将“高贵”定义为为他人的服务彰显荣耀,并运用我们的能力为他人服务。我们希望我们的工作对别人有用,我们希望别人从我们的工作中受益,我们希望为一个共同的人类项目做出贡献。名声以及同行的尊重和善意是我们衡量自身贡献的代理指标。
我们倾向于将内在动机视为最纯粹的那种:内生的、自我创造的、不受物质或社会利益驱动。但它是一种情感,像所有情感一样,是短暂易逝的。这是合理的:否则,我们都会陷入终生无效的执念。因此,我们需要一些东西来填补神圣灵感时刻之间的空隙。外在动机就起到这个作用。
持续的、复杂的、长期的私人知识活动需要一个外部知识共同体来提供物质和动机,就像燃料和氧化剂一样。反过来,这种私人活动维系着共同体:通过发表论文、教材、代码等,你为他人可在此之上构建的共同工作成果添砖加瓦;通过引用某人的论文或为他们的代码仓库做贡献,你给予他们认可和荣誉,确认他们正在做有用的工作,这反过来激励他们继续贡献。
没有共同体,你不会得到各自做自己事情的孤立个人:你什么都得不到。知识活动的输入枯竭:没有人再为共同的工作成果添砖加瓦,也没有人成为可以从你自己的知识活动中受益的同行。没有这种外在动机,知识活动就会减少,因为再次强调,内在动机是转瞬即逝的。
AI 之后
在AI时代来临之后,脑力贡献变得不必要甚至多余。以软件领域为例:AI会编写所有代码,那么写代码或写文章还有什么意义呢?这些东西的读者群已经大幅萎缩。人类不再亲自写代码,于是他们也不再阅读关于如何写代码的博客文章、教程,也不会再去尝试新的库或编程语言。以数学领域为例:AI能够证明定理、撰写论文、讲解论文、辅导学生,而且在不远的将来,它们或许能写出比人类更优秀的整本教材。那么,撰写论文或编写教材还有什么意义呢?这些都成了多余的事。
如果脑力活动不再必要——如果设计一种新的编程语言或发表一篇论文没有任何后果,又或者根本不存在可以为之贡献的社区——那么这样的活动就不会发生。这毫无意义。
将这一逻辑推及脑力活动的每一个其他领域,你便能窥见未来的模样。或许仍有个体在构建新的库和编程语言,却不再有共享的软件工程文化;或许仍有学习数学的个别的学生与从业者,却不再有充满活力的数学家共同体。
我曾与一些人交谈,他们认为AI将对精神生活产生积极影响。他们的看法是:如今有太多人从事脑力活动是出于功利性的目的——为了引用量、声誉等等。依此观点,脑力社区的崩塌反倒是好事,因为它能将那些由内在动机驱动的“超人”,从追逐名利的芸芸众生中筛选出来。
我认为这种看法与当下社会颇为契合:我们将内在动机与外在动机分别视为高地位与低地位的体现。一个所谓的“成熟”的人,理应拥有一份私密的、取之不竭的动机储备,在因果关系上与外部奖励完全脱钩。
然而,这并不是对人类真实面貌的准确描绘。人是社会性动物,唯有在与他人共处的社会中才能焕发光彩。我们在意为世界作出贡献,也理应如此。若技术令我们的贡献变得多余,那么留给我们的还剩下什么呢?
致谢
感谢Luke Drago与Andy Matuschak的反馈和交流。
来源:Hacker News · borretti.me