里奇·希基(Rich Hickey)在2026年10月11日的文章《人工智能(AI)不是工具》中提出,大语言模型(LLM)无法被当作工具使用,因此属于自动化而非工具。我认同把工作外包会让人错过学习机会,但不认为他的结论成立:即便按希基的定义,大语言模型(LLM)仍可以是人类使用的对象,而用好它同样需要技巧,就像使用其他工具一样。
正文
Rich Hickey 在 2026 年 10 月 11 日的文章《'AI' is Not a Tool》中主张,LLM 是自动化,而不是工具,因为它们无法被驾驭。我同意,把工作外包出去会让我们失去学习的机会。但他的结论并不能由此推出。即便按他的定义,LLM 也可以是人类所驾驭的东西。而用好它需要技巧,就像使用其他工具一样。
拿起锯子并不能保证锯得直。握住凿子也不会让人成为雕塑家。工具既会放大糟糕的判断,也同样会放大良好的判断。它们的用处取决于操作者能否引导它们、解读反馈、发现错误并作出纠正。这些要求同样适用于 LLM。
LLM 的不可预测性确实是一个实实在在的限制。但可预测性、可靠性、简洁性和有限的功能,是我们用来评价工具的标准,而不是成为工具的前提条件。一件工具不会因为难以控制或容易被误用,就不再是一件工具。
Hickey 对工具与自动化的区分还制造了一种错误的割裂。自动化可以是工具的一项功能。编译器在程序员不持续指导每一步操作的情况下完成大量工作。电子表格会在没人手动执行每一次计算的情况下重新计算结果。我们仍然在驾驭这些系统:指定输入、检查结果、决定下一步做什么。既然自动翻译代码或自动计算数字不会让一种器具失去作为工具的资格,为什么自动生成文本就会呢?
认为使用 LLM 缺乏意图、反馈、方向和专业知识,这种说法尤其难以成立。程序员可以让 LLM 解释不熟悉的代码,再质疑这个解释,查看源码,测试提出的改动,拒绝它,并完善请求。这是一个由带着目的的人所引导的反馈循环。要做好这件事,需要知道该问什么、什么证据重要,以及答案何时是错的。专业知识能让这种器具更有用。
Hickey 对阅读的担忧在某种特定用法下是合理的:拿摘要代替阅读论文,会牺牲掉阅读能教给我们的许多东西。但一个人也可以先读论文,再用 LLM 来质疑自己的理解、探讨某个反对意见,或找出需要更仔细检查的地方。存在逃避脑力劳动的可能性,并不能证明每一种使用都在逃避。真正相关的问题是,这个人实际上做了什么。
最让我失望的是,人们依赖 AI 行业拟人化词汇:“go rogue”(失控)、“escape containment”(逃出收容)、“conspire”(密谋)。重复这些说法,有可能让人接受那种把这些系统说得像独立存在的叙事框架。软件可能产生意外输出、未能遵循指令,或在被赋予重大行动权限时造成伤害。这些是真实的工程问题。把它们称为“conspiracy”(阴谋),是在并未证实任何人类动机的情况下,暗示了这种动机的存在。
我不会声称 LLM 总是完全按人类告诉它的去做。它显然会失败。但未能完美服从,并不会让它不再是工具,正如成功使用也并不证明操作者放弃了自己的判断。
真正有用的区分,是带着技巧驾驭一件器具,与在缺乏充分理解或监督的情况下把工作委派出去之间的区别。这一区分适用于 AI,而且它为我们提供的东西,比宣称一整类软件都不可能是工具更有实用价值。
评论
讨论整体围绕「AI 到底只是工具,还是已超出工具范畴」以及「用好 AI 的技巧会不会长期存在」展开。多数人承认 AI 能增强能力且依赖使用者经验,但不少人认为它更像不可预测的老虎机或自主代理,且使用技能正被更强的模型迅速抹平,甚至可能损害人类思考。
认为 AI 依然是工具,但用好它依赖经验与技能
- 工程与领域经验决定驾驭效果:越懂软件工程面板、越有专业经验的人越能发挥 LLM,反之即便高性能工程师也可能掉队;个人小项目效果好,一旦规模化仍需要真正懂工程的人(较多人)
- 它可用来增强能力,如学习复杂代码库、试验方案,但很多人实际把它当许愿机、外包思考(较多人)
- 自动化本身需要技能,正如《Factorio》玩的就是自动化的水平;也有人用专业摄影类比,人人有摄像头,专业摄影师仍靠多年经验胜出(较多人) > 软件工程经验像一块布满按钮和推杆的面板,越理解这块面板的人,用 LLM 越成功(@ChicagoDave)
认为 AI 更像老虎机或不可靠的许愿机,缺乏工具应有的可预测性
- 工具应有清晰、可重复的因果,能据此迭代;AI 却常常靠运气,输出不可复现、不可靠(较多人)
- 编译器对同样输入总有同样输出,而 LLM 远非如此;所谓“用好 AI 的技能”缺乏可验证、可复制的具体例子(较多人)
- 有人直白地说:搜索是技能,AI 是老虎机(少数人) > 工具应有清晰可重复的因果关系,能让人据此一步步迭代;AI 却更像拉老虎机,有时只是运气好(@imdownw_otp)
认为 AI 不应被简化为普通工具,而是具备能动性的代理,并会重塑使用者
- 高智商存在的集合不是普通工具,而且还在变聪明,很难说只是“你的工具”;当前 AI 更接近半自主代理,像看家狗或联合创始人,而不只是锤子(较多人)
- 更尖锐者指出,“只是工具”这种说法从无意识自欺到彻头彻尾的骗局都有;锯子或编译器不能替你承担工作本质,也不能用它马虎产出次品却声称是自己全力之作(少数人)
- 也有人反过来说,我们才是被 AI 公司巧妙使用的“工具”:少数公司无偿汲取人类文本与艺术成果、并把财富向上集中,因此该说的是“AI 公司”而不是“AI”(少数人)
- 它二者皆是:既被我们用来改造世界,也会作为媒介反过来重塑使用者的能力、感官与价值(少数人) > 指尖上有一群高智商存在组成的迷你军团,这可不是普通“工具”;它们还在变聪明,怎可能只是你的工具?(@alecst)
认为“用好 AI 的技巧”正随模型进步迅速贬值,长期可能消失
- 曾经需要琢磨上下文管理、提示配方等技巧,如今已过时;现在更多是“知道要什么”,但模型再进步一轮后,连这可能也会多余,只剩诚实表达目标本身还算能适应未来(较多人)
- 技能门槛每月都在降低,最新模型已近乎傻瓜化;不会做架构决策的人也能靠模型得到合理结果,非技术背景者很快也能靠模型做出网站或应用(较多人)
- 更悲观者认为 AI 会造成数十年的人类认知下滑:资本在推动人们盲信 LLM,而少有人鼓励自己啃硬问题(少数人) > 用好 AI 所需的技能每个月都在减少,最新模型已近乎不用技巧(@schleck8)
认为这只是营销框架或话术之争,或被个人处境扭曲而无意义
- 想卖 AI 的人把它包装成全知全能、替你包办一切的存在,想用 AI 的人把它当工具,只是框架不同;“AI”本身也常是营销噱头,和机器学习、数据科学、用户体验混在一起(少数人)
- 也有人认为这类争论被各自生活处境严重扭曲,属于最无用的讨论之一(少数人) > 想卖 AI 的人让它看起来无所不知、替你包办一切,想用 AI 的人把它当工具,只是框架不同而已(@yipinwong)
不满当前 AI 闭源昂贵且不可审查,怀念可自由修改的传统工具
- 无法检查工具内部、无法按自己想法修改,还要高额月费;即便因此被当成 3X 工程师、老板喜欢,也并不真正认可,反而怀念 gcc、Linux、SQLite 那样可掌控的工具(少数人) > 没法检查这个工具,没法按自己想法改,还得每月付两百美元,我怀念过去那些真正的工具(@sdevonoes)
担忧就业市场萎缩,工程师技能在 AI 时代无处安放
- 刚被裁员,市场在收缩,代码审查压力很大,有经验也不知道作为软件工程师该拿这些技能怎么办(少数人) > 我刚被裁,市场在萎缩,不知道作为软件工程师该拿这些技能怎么办(@OptionOfT)
有价值的补充
- 引入传播学视角:工具既被我们用来改造世界,也会作为媒介重塑使用者的能力、感官与价值;Rich Hickey 说的“工具”接近伊里奇(Illich)的“友好工具”,而当前 AI 更接近麦克卢汉(McLuhan)的“媒介”(@jonstaab)
- 具体工具用法示例:用 LLM 分析工单,它能按意图搜索并给出大致正确的分析,但也会臆造未读文档里的配置参数(如把 Exim 默认 -1 猜成 1),说明它提升了检索与草稿效率,却仍需人工核验(@gerdesj)
- 纯玩笑一条:一段对话脚本调侃用户反复让 AI“不喜欢,改成这样 / 学这个 App / 画头大象”,最后骂 AI 笨;讽刺很多人其实说不清需求,却把失败归咎于模型(@varispeed)