Hacker News 中文摘要

RSS订阅

所有人都疯了 -- Everybody's Lost Their Minds

2026年9月16日。有些男人宁可吐出没人看的冗长博客也不去心理治疗。如今没工程背景的人竟推销自家满是代理工具的实验室里捣鼓出的改变行业方案;邮件像领英(LinkedIn)网红般短句连连;文章也趋平庸;半数熟人成了肉代理(meat proxy)。每天超75%时间应付AI夺走工作乐趣,多数日子如迷离境界(Twilight Zone),唯你未变旁人皆异。

正文

2026年9月16日

男人。有些人宁可吐出一篇没人会看的漫无边际的博客长文,也不肯去看心理医生。于是就有了这篇。

这些年我见过的蠢事不算少,但现在连没有工程背景的人都跑来推销他们在被 agent 塞满的 homelab 里捣鼓出的“改变行业”的方案;人们的邮件读起来像蹩脚的 LinkedIn 网红帖,满是“不是这个,是那个”这种一句一段的金句;网上的文章也在朝平庸收敛;你打交道的对象有一半变成了肉代理。

每天 75% 以上的时间直接或间接在处理 AI,已经彻底剥夺了我对工作的乐趣。大多数日子就像《阴阳魔界》那一集:醒来后你还是你,但其他所有人都变了。

“先把伦理放一边……”

网络炒作列车“呜——呜——”开了一阵子了,主要的 AI 公司在互相较劲地犯罪,而我们不知怎么就默许了;这些公司有意使用拟人化语言,媒体不加质疑地照搬,从而替 AI 公司免除了其无力保障程序安全的责任。

这些模型建立在毫无歉意的知识产权剥削之上,把权力集中到极少数美国公司和寡头手里;它们不仅能用来生成儿童性虐待材料——对已登录用户来说这是一个产品功能——我们继续使用它们,也直接支持了它们在军事目标选择中的作用,比如小学。

与此同时,每家公司都乐于“把伦理放一边”,花掉难以想象数量的“token”——一种遵循赌场模式的凭空造出来的货币——而当你问他们,那个靠 vibe coding 做出来、喂了你那堆顶多算平庸的“文档”的客服聊天机器人到底有没有任何投资回报时,他们只会茫然地看着你。

西西弗斯计划

“前沿模型”和 AI 辅助的漏洞研究是另一个结果可疑的领域。Anthropic 和 OpenAI 互相较劲谁的模型更危险,如今每个自认是行业领导者的人都加入了某个名字神秘的“项目”(如 Glasswing、Daybreak、Athena、Akrites),或者联署各种公开信,以此表明自己绝对没有被落下。

这些项目的每个参与者都往 Anthropic 和 OpenAI 那个 FOMO 驱动、限时、“第一次免费”的提议里砸进了多得离谱的工程资源。几十名高薪安全工程师的所有优先级被调整,把所有时间都花在这上面;开发并调整 AI 漏洞发现工具、建立新流程和流水线把成千上万条发现硬塞进漏洞管理流程,还要和产品负责人一起评估和修复……每个组织为此投入的工时成本肯定达到数百万美元量级。

然而,尽管找到了实打实的成千上万个新漏洞(顺便说一句,其中只有一小部分被报告给了开源项目),我并不觉得我们比以前更安全了。因为发现漏洞从来不是信息安全的瓶颈。瓶颈甚至也不是核实漏洞报告、验证其严重等级,尽管那很费时间。瓶颈不是确定修复方案、写补丁或发布新版本。瓶颈一如既往,仍然是把该死的软件包更新上去。打补丁依然很难。

想象一下,如果我们把这些资源用在基本功上:确保组织有一份最新、全面、细到软件包的资产清单;建设支持定期、频繁、自动化操作系统和应用更新的基础设施;系统运行到比如 30 天就自动重启以确保更新被装上;在所有 IP 空间以及所有云服务商上做全面的攻击面枚举(多新奇的概念!);这些基础防御没人真正做好的清单还能列很长。让几十名资深工程师花 6 个月彻底改造这些、专注于让打补丁更容易,在我看来会是好得多的投资,但那就太不“网络”了。

无论 AI 承诺什么,人力资源仍是零和游戏,每个在自己 agent 隔间里同时做一千件事、感觉超忙的人,最终都无助于解决那些需要跨职能协作和团队合作的项目。

一场奇怪的博弈

与此同时,AI 公司又一次争先恐后地虚伪呼吁对自己加强监管,因为,你知道,它们可能会一不小心终结全人类。

如果你真觉得你的产品会杀死所有人类,那你其实可以,比如,就别再造那个拷问中枢了。你自己就能做到,不需要政府监管。没人逼你玩“战区生物化学战”或“全球核战争”。我是说,除了你未来的股东和你的贪婪。唉,可那样就没法卡住竞争对手了……

但你不需要去想象 AI 会在未来几年通过某种天网或回形针最大化场景毁灭全人类,因为现实中 AI 早就在这方面努力了。这些公司的环境影响令人震惊。AI 竞赛要求越来越多浪费水、污染空气、烧化石燃料的数据中心,而绝对没人愿意住在它们旁边;政府为这些公司撤销一切环境法规,而这些公司不久前至少还假装有过最微弱的碳中和或可再生能源的漂绿承诺。

但“世界已经不同了”,对此我只能说:“废话,夏洛克。它正在燃烧。因为你。”

正在燃烧

超人类智能

你知道 AI 有两种达到超人类智能的方式,对吧?一种(理论上的)是 AI 神秘的“递归自我改进”。另一种是我们显然正走在的那条路:agent 脑虫已经蔓延开来,看起来所有人早就彻底疯了。AI 是让使用者变迟钝的工具;随着你主动去技能化,它逐步用新的依赖和成瘾取代理解。

AI 帮人在现有代码里找到更多漏洞。为解决这些漏洞,人们用 AI 生成补丁。由此产生的 pull request 再由 AI 来“审查”。也就是说,AI 在环里越多,我们对代码库的理解就越少。那个神秘的“人在环中”,往往只是一个橡皮图章。

那么当事情出岔子时会怎样?复杂系统以复杂的方式失败,而调试代码比写代码难一个数量级。调试别人的代码更难。试图调试由整个组织实际上根本无法看透的组件构成的大型复杂分布式系统,将是不可能的。

所以不,我不会把伦理放一边,然后主动把自己献祭出去、自我截除大脑。如果其他人都摆脱不了脑蛞蝓,我很抱歉,但此刻我只想从这趟游乐设施上下来。

2026年9月16日

P.S.:不,Claude 没有意识。什么 J-Space。


脚注:

[1] 没错我就是用长破折号。你贬低它,去你的。

[2] “结果显示,参与者用筹码下注的金额显著高于用真金白银。”

[3] 没有。LLM 是垃圾进垃圾出——如果你的文档很烂,AI 最多把那坨东西擦亮,吐出来的仍然毫无用处。

评论

社区对一篇反AI宣泄帖反应两极:多数人批评其论证草率、低估技术效用,但同时不少开发者共鸣于AI导致工作异化与精力耗竭;分歧主轴在于AI究竟增强还是削弱了工程能力与人的主体感。

认为原帖是缺乏深思的情绪发泄

  • 多名读者指出文章像发泄帖,论据包含事实错误(如数据中心耗水误导),且立场过于简单化,正反极端皆失之偏颇。(较多人) > 这更像是一篇发泄帖,连水资源浪费都是红鲱鱼,把递归自我改进标为神秘主义同样荒谬(@kragen)

认同AI侵蚀工作乐趣与人的主体性

  • 不少工程师共鸣于日常被AI事务淹没、跨职能协作变差、自我能力感觉退化,甚至有人因此计划转行手艺业。(较多人) > 每天七成半时间间接直接处理AI,夺走了我对工作的享受,就像其他人全变了(@Ancalagon)

认为AI实质提升生产力与安全性

  • 实践者举出大模型快速修bug、实现功能、发现历史漏洞等,反驳原帖称找漏洞无意义或不安全。(高赞) > 前沿模型在漏洞研究领域已是地震级变化,研究者普遍用其自动化找洞和生成工具(@tptacek)

认为社会正陷入对AI的周期性集体非理性

  • 有人提出每隔约十年社会就会因某个由头集体失智,AI只是最新一环,且周期在缩短,源于不从历史学习。(较多人) > 从反恐战争、金融危机、加密、新冠到AI,社会总在重复愚蠢循环,因为我们不从历史学习(@grebc)

有价值的补充

  • 塞缪尔·巴特勒早在1872年《埃瑞璜》中就预言人可能变成“爱抚机器的蚜虫”,恰如当下“肉代理”隐喻(@frereubu)。
  • 漏洞研究界曾有秘密邮件列表与公开化之争,如今前沿模型可能把一些人推回90年代内容空洞的厂商管控披露旧态(@tptacek)。
  • 数据中心施工期井水变脏不等于运行耗水,原帖水恐惧源于个例误导(@daedrdev)。
  • 代码创作者存在“工艺派”与“结果派”根本张力,新工具或迫使工艺派认输(@3pm)。