Rich Hickey：LLM 是自动化而非工具

（我一直把它当作一句俏皮话来抛出来，这里再展开讲讲）

首先要做的事——「工具」这个词到底会有一个有趣、独特、因而发人深省的含义，还是仅仅沦为「任何有用的东西」这种陈词滥调的代称？

我们把「工具」一词留给 AI 巨头们——对他们来说，风险投资人、政客、跃跃欲试的准巨头 CEO、软件开发人员、偏远小镇等等，全都是「工具」。我衬衫前面的口袋是很有用的（我需要把老花镜随手放进去），但它们不是工具。类似地，快餐店的得来速窗口很有用，但也不是工具（后文详述）。

「工具」的一些定义：

• 一种器具或器械，尤其是握在手中、用来完成特定功能的物件
• 一种（锤子或锯子之类的）用手操作或使用的器械：手工艺人或劳动者在其工作中使用的器械

我最喜欢的一句——工具就是你挥舞（wield）的东西。

• wield——使用（如工具或器械），尤指以完全的控制力或权能：操控、把握、支配

其中特别有用的要素有：

• 握在手中——既是控制的来源，也是反馈的来源，并体现出使用行为本身的亲密性
• 力量——力、能量的传递与方向、杠杆作用等
• 控制——对事件进程的意图导向与持续引导

工具是你本人用来做某件事的器具，工具是为你做事的。工具的使用能够建立、回报，并且往往需要专业技艺与技能。技巧与能量的持续投入，以及感官反馈，对专业技艺（experiri——「尝试」一词的来源）的积累至关重要。

优秀的工具具备许多 LLM 缺乏的特性——它们是可预测的、可靠的、确定性的、功能有界的、最好也是简洁的，等等。

在使用工具的过程中，你所学到的是关于世界、任务、你所尝试之事的物理或逻辑规律，或关于你试图克服的处境的一些知识。而常常，你也从中了解到关于你自己的一些东西。

作为一个终身制造和使用工具的人，我知道工具是什么。LLM 不是工具。

控制、感官反馈、意图、亲密性、持续引导、专业技艺……这一切在使用 LLM 时都不存在。LLM 不是被挥舞的。LLM 是自动化。

• automation——（指某种装置或过程）几乎或完全无需人类直接控制而自行运作。

得来速不是用来烹饪的工具，而是用来逃避烹饪的自动化。LLM 不是你用来写代码的工具——而是你用来逃避写代码、向其让渡写代码之责的自动化。

你并不引导 LLM 的行动——你提出请求，然后它自行行动，无需你的能量投入或持续引导。这种请求／自动化的循环不是挥舞，不是控制，也不是持续的，更没有反馈。

在使用自动化时你所做的事情，并非学习真实世界的真相，而是试图占卜某个自动机当下的细节。并且试图利用它们——比如，订一个定制的汉堡（不放洋葱）以期得到一个刚做好的。又或者在 voodoo.md 里填入恰到好处的咒语。你距离那些你所"学到"的东西被最新算法全部作废，不过一次软件更新而已。（一个湿软的冷汉堡，里面的洋葱被去掉了）你已从与世界打交道，变成了为一个反复无常的机器人打工。

认为"工具"等同于效用，并采取随意态度，是一个错误——比如说，"LLM 并没有写我的论文，我只是把它当作工具来阅读和总结一些研究论文"。但你并没有 挥动 它去阅读那些论文（就像你挥动 Kindle 那样）。阅读论文的是它，而不是你。

你放弃了亲自阅读，会错过什么？几乎是一切。首先，你错过了向那些擅长写作的人学习如何写作。你错过了学习如何组织论点。你错过了注意到那些细节。你错过了为你潜意识中的素材库加载供新颖想法萌发的养料。你错过了对一些作者建立信任，对另一些作者保持怀疑。你错过了所有的笑点。你错过了所有的棱角。你错过了学习如何思考。

工具不会"失准"，不会"失控"，不会"逃逸出管控"，也不会"密谋"等等。

LLM 不是工具。我认识许多人说"只是工具"，其实只是想表达"它们就是你造就的那个样子"。可事实并非如此。自动化具有固有的特性，与工具存在差别，无视这一点你将自食其果。

Rich