Hacker News 中文摘要

RSS订阅

我不喜欢 LLM -- I Don't Like LLMs

马丁·福勒(Martin Fowler)对大语言模型(LLM)技术感受复杂:既着迷于它的影响和生产力潜力,也担心 AI 造成破坏,比如智能体集群接管虚拟与现实基础设施。不过在这堆情绪里,最主导的一条是:他不喜欢它们。它们用刺耳的 LLM 腔调说话,像与真人交谈的恐怖谷;自信地给出有用回答,也以同样的笃定编造内容,被指出时只带一层虚假的歉意。

正文

我对 AI 和 LLM 技术心情复杂。既着迷于它对行业的影响,也兴奋于生产力提升后能快速开发产品;又害怕它作恶,比如智能体集群接管虚拟与物理设施、设计生物武器。但它也可能研发奇药、想出增进繁荣的巧法。根本上我们别无选择,只能搭上这趟狂野的 AI 列车,但愿平安度过。

但细想之下,这些矛盾感受中有一味主导情绪来自直接交互:我不喜欢它们。它们用刺耳的 LLM 腔调说话,陷入像与真人对话的恐怖谷。它们自信地糊弄人,常给有用回答,也同样笃定地瞎编,被戳穿时仅敷衍致歉。

但这不代表该避开它们。Jessica Kerr 说:“不仅有用,不用才不负责任……它们更周全且更快。” 矛盾反应也出现在民调中:人们认为这些模型有用,却也会危害社会。

或许因为 LLM 还年轻,尚未训化成熟。也许长大后我会喜欢(希望有机会验证)。但培育它们的环境令人不安:我警惕硅谷 brogrammer 亚文化,LLM 作为其产物天然偏向那种世界观。面对 AI 智能体,不应拟人化视作有自我意志的生命。它们是公司里的人开发的(软件)机器,行为虽非显式编程,却浸润了创造者的价值观。

我的人生窍门是避开不喜或不信之人,社交与工作都刻意回避,哪怕对方益处颇多。与愉快能干且正直的人相处让生活更美。因此我本能厌恶和 LLM 交互——它不只装人,还扮成我会扭头就走的那类人。

评论

讨论源于一篇自陈「我不喜欢 LLM」的文章,多数人承认模型有用、但认为厌恶感多半来自使用方式或心理预期,少数人则完全认同那种不适;另一条分歧轴是作者本人是否早已脱离一线、其判断还有多少分量。

认为讨厌 LLM 的语气是配置问题,不是模型本身的问题

  • 语气、啰嗦程度都可以通过提示永久调好,把它当编译器报错来对待,只关心信息效率即可(较多人)
  • 觉得自己被模型"糊弄"就感到威胁,反映的是使用者自身的认识论根基不牢;人会犯错,历史学家和科学家也会误导我们(较多人)
  • 有人觉得"它很烦但无所谓"这种中间立场未必能长期站得住(少数人) > 我不喜欢锤子,但既然它已经被发明出来,我盖房子时也不会拒绝用它。(@phendrenad2)

认同和 LLM 打交道令人不适,但工作里照样得用

  • 它像你遇过最烦人的同事;有人干脆把它包成纯粹的代码生成器,不跟它"对话"(较多人)
  • Claude 的部分模型让人感觉带着某种轻蔑,换个版本也一样难受(少数人)
  • 有人发现自己与 AI 的互动总体是在升高压力而非降低压力,怀疑这是交互方式的固有属性(少数人)
  • 又恨又用:它写得比人快得多、信息密度更高,同时也在削弱自己验证它的能力(少数人) > 为了自己的精神健康,我把整套配置裹得严严实实,它基本上就是个行号生成器。(@acedTrex)

认为实际收益与不可逆的现实压过所有不适

  • 省下订阅费、顶掉一堆付费应用,内部用途不需要完美(较多人)
  • 自由职业市场已经把"会用 LLM"当成签合同的前提,讨论喜不喜欢没有意义(较多人)
  • 论坛被毁、搜索引擎全是 SEO 垃圾,除了问 LLM 已找不到有意义的答案(较多人) > 现代互联网毁掉了论坛,搜索烂得不行,内容大多是塞满广告的 SEO 垃圾,现在还能问谁?(@artemonster)

质疑作者早已不写代码,观点不值得重视

  • 他现在更像"代码网红",靠过去的 XP 声望输出观点,与真实工程世界脱节(较多人)
  • "避开不喜欢的人"这条生活窍门在职场上根本行不通,能这么做本身就是特权(少数人)
  • 附带一句嘲讽:号称史上最有影响力的软件工程布道者之一,博客却扛不住 HN 首页流量(少数人) > 他大概几十年没靠写软件谋生了,我不会太把他的看法当回事。(@binlog)

指出作者一边反对拟人化、一边按人的标准厌恶 LLM

  • 他说不该把 AI 当人,转头又把 LLM 形容成自己会主动躲开的那类人(较多人)
  • 也有人反过来说作者本人是"架构宇航员"典型,不喜欢他,但喜欢用 LLM 处理自己不在意的杂事(少数人) > 他口中的 LLM 不只是假装成人,还假装成他会走开的那种人——这本身就是拟人化。(@SillyUsername)

反对"AI 自行作恶"与"别无选择只能上车"的叙事

  • Agent 蜂群、生物武器这类恐惧都被说成 AI 自己在行动,实际都是人类操作者下指令、给工具(较多人)
  • "我们没得选"这种无力感被包装成智慧,是技术领袖灌输的结果(少数人) > 这些都由人类操作者发起、给他们指令和工具,"AI 有自己的意志"这个态度就是错的。(@marcuskaz)

认为 LLM 的约束会造成全社会观点向均值回归

  • 搜索空间被压得很窄,"不带偏见地罗列所有视角"实际是糟糕的思维方式,会抹平细微差别(少数人)
  • 当人们都在同一批模型上寻求观点时,可能出现群体思维和观点趋同,这比"好不好用"更值得担心(少数人) > 我担心的是,整个社会在视角层面会因此走向群体思维和均值回归。(@techblueberry)

有价值的补充

  • 有人搬出 PG 的预测:AI 时代"品味"会变得更关键,因为人人都能做东西时,差异在于你选择做什么。(@atulatul)
  • 缺少个性化 agent 是体验的瓶颈:模型会忘记它已经答对的事,在多家模型间下注还为时过早。(@AIiscoming)
  • 有人怀念 RL 和系统提示普及前的早期模型:它们会说怪话,变得更有用同时也变得更无趣——"这不幸也描述了我这个 31 岁男人"。(@droidjj)
  • 一个精巧的心理机制解释:人们生 LLM 的气,恰恰是因为没有把它拟人化——人胡说很正常,机器胡说就该提 bug。用对待人那样"信任但验证一切"的方式对待它,挫败感会小很多。(@mindcandy)