LLM 具备生命属性吗？一则“随机鹦鹉”思想实验
Are Stochastic Parrots Alive?
这则思想实验主张，仅因 LLM 的运行机制可被解释、模型可由人类制造，并不足以断言它们没有生命属性。文章设想一名通过强化学习与自监督学习获得知识、能力与前沿 LLM 相近的硅基外星生命，指出身体构成不同并不会使其较少具有生命。随后以“外星人批量生产人类”的反例追问，生命是否取决于物质构成或起源。
以硅基外星生命和批量生产人类的反例，拆解“理解原理便否定生命”的直觉判断，为讨论 LLM 的生命属性提供概念辨析。
如果一艘宇宙飞船此刻降落在你的花园里，一个刻板印象中的外星人从飞船里走出来，开始用自然语言表达自己，并具备与前沿大型语言模型相似的能力，那么你大概完全不会觉得有问题，可以认定某种外星生命刚刚降落在地球上。
现在，假设你对外星人进行深入研究。你发现，他们并非由血肉和骨骼构成，而是由晶体管构成。他们的能量并非来自体内数千次微小的化学反应，而可能来自某种未来式的核反应。到了这一步，你就会意识到，这并不是一种以碳为基础的生命。他们的身体与我们相当不同，但这并不会使他们比我们更不具有生命。
接下来，你继续研究他们的社会和教育体系。你开始意识到，他们获取知识的方式非常类似于强化学习与自监督学习的结合：这些学习在一个庞大的信息语料库上进行，而这个语料库最初继承自另一个物种，后来他们又开始自行扩充它。
到了这一步，你会不会耸耸肩，把这一切都抛在脑后，认定这个存在并非一种外星生命，而只是一只随机鹦鹉？
仅仅因为我们原则上理解大型语言模型如何运作，并且能够从零开始创造它们，就真的意味着它们不是有生命的吗？
作为作业：试着想象相反的情况。一种外星生命开始为某种功利目的批量生产人类。这会让人类变得不那么有生命吗？
来源：Hacker News · stefano.petrilli.xyz