用 AI 是门手艺：LLM 是工具还是自动化？

Hacker News：AI 热帖· layer8·2026-10-13 05:40· 5 小时前AI 评分41

AI 是一种工具，用好它需要技能

AI 导读

针对 Rich Hickey 在 2026 年 10 月 11 日文章《"AI" is Not a Tool》中"LLM 属于自动化而非工具"的论点，有作者反驳称 LLM 仍可被人操控，用好它需要技能。

正文

在 2026 年 10 月 11 日的文章《"AI" is Not a Tool》中，Rich Hickey 认为 LLM 属于自动化而非工具，因为人们无法操控它们。我同意把工作外包出去会让我们失去学习的机会。但他的结论并不成立。即便按他自己的定义，LLM 也可以成为人类操控的东西。而且用好它需要技能，就像使用其他工具一样。

拿起锯子并不能保证锯出一条直线。握着凿子并不能让你成为雕塑家。工具既能放大糟糕的判断，也能放大良好的判断。它们的用处取决于操作者引导它们、解读反馈、识别错误并加以纠正的能力。这些要求同样适用于 LLM。

LLM 的不可预测性是一个实实在在的局限。但可预测性、可靠性、简单性和功能有界，是我们用来评估工具的品质，而不是成为工具这一类别成员的前提条件。一个工具不会因为难以控制或容易被误用就不再是工具。

Hickey 对工具与自动化的区分还制造了一种虚假的二分。自动化可以是工具的一个特性。编译器在程序员无需持续指导每一步操作的情况下完成大量工作。电子表格无需有人手动执行每一次计算就能重新计算结果。我们仍然通过指定输入、检查结果并决定下一步做什么来操控这些系统。既然自动翻译代码或自动计算数字不会使一件工具失去工具资格，为什么自动生成文本就要如此呢？

所谓使用 LLM 缺乏意图、反馈、方向和专业能力的说法尤其难以站得住脚。程序员可以要求 LLM 解释不熟悉的代码，质疑该解释，查看源代码，测试所提议的改动，拒绝它，并改进请求。这是一个由追求某个目标的人所引导的反馈循环。要做好这件事，需要知道该问什么、哪些证据重要，以及答案何时是错的。专业能力可以让这件工具更有用。

Hickey 对阅读的担忧在某种特定用法上是有道理的：用摘要代替阅读论文，可能会牺牲掉阅读所教给你的很多东西。但人们也可以先读论文，再用 LLM 来质疑自己的理解、探讨一个反对意见，或找出需要更仔细审视的地方。存在回避脑力劳动的可能性，并不能证明每一种用法都在回避它。真正相关的问题是这个人实际做了什么。

最让我失望的是对 AI 行业拟人化词汇的依赖："失控"、"逃出围栏"、"密谋"。重复这些说法，就有接受那种让这些系统听起来像独立存在的框架的风险。软件可能产生意外输出、不遵循指令，或在被赋予有重大后果的操作权限时造成伤害。这些都是真实的工程问题。把它们称为"密谋"，是在没有任何依据的情况下暗示其具有人类动机。

我不会声称 LLM 总是完全按照人类告诉它的去做。它显然可能失败。但未能完美服从并不会使它不再是工具，正如成功使用并不能证明其操作者已经放弃了判断力。

有用的区分在于熟练地运用工具与在没有充分理解或监督的情况下委派工作之间。这一区分适用于 AI，而且它给了我们比宣称一整类软件不能成为工具更实用的东西。

来源：Hacker News：AI 热帖 · yyhh.org