写这些话让我觉得像在自掘坟墓:AI 系统正突飞猛进。从 2022 年初 ChatGPT(ChatGPT)笨拙发布、数不对我的名字里字母 a 的个数(它说有两个),到 开放人工智能(OpenAI)发布数学论文、内部 AI 模型解决了数百个此前未解的数学问题。除哲学争论外,以幻觉或偏见等理由主张人类思维更优越的实际说法,在我看来越来越像后卫式防御。当今大部分认知工作的结局已明:AI 将接管。
正文
写这几行字对我来说非常艰难,因为感觉像是在自掘坟墓。AI 系统正在突飞猛进。从 2022 年初 ChatGPT 那个笨拙的发布版本——它连我名字里有几个字母 a 都数不对(它说是两个)——到 OpenAI 发布数学论文,其中一个内部 AI 模型解决了数百个此前悬而未决的数学难题。除了哲学层面的争论,那些基于幻觉或偏见等理由、主张人类思维仍具优势的实际论调,在我看来越来越像是在打一场后卫战。对当今大部分认知工作来说,结局已经注定:AI 将会接管。
推动 AI 在现代工作环境中占据主导地位的三个因素,是更强的性能、更低的成本和更高的可用性。AI 模型的性能正在全方位飙升:感知、知识的处理与创造、推理、判断以及自主行动。与此同时,人类在关键的信息处理技能上的熟练度,成年人平均水平本就偏低,在学生群体中甚至还在下降。因此,AI 系统在越来越广泛的任务中表现得比人类更好。
由于巨额投资和科技进步,AI 的成本也在下降。一代又一代的 AI 模型以更低的成本提供更强的性能,旧模型仅仅为了向后兼容才被保留。因此,在越来越广泛的活动中用 AI 系统取代或增强人类劳动,在经济上正变得划算。
最后一个因素,也是最显而易见的:AI 系统可以全天候运转,不需要休息或间歇。它们还能帮助缓解因人口趋势或技能缺口导致的劳动力短缺。与此同时,到 2030 年,预计数据中心领域将投入数万亿美元,从而上线庞大的额外 AI 处理能力。
正如过去的技术革命一样,用 AI 取代认知工作无疑会遭到激烈抵抗。这一次的抵抗会更加猛烈,因为与以往改变体力劳动的革命不同,AI 挑战的是知识工作者;这些人的专业知识、对信息的控制以及决策权,赋予了他们更大的经济和组织权力。各国政府会试图通过监管和税收来剪去 AI 的羽翼。这类行动过去没能平息技术革命,现在也没有多少理由相信它们会奏效。
那么人类思维的命运是什么?我的看法是,认知工作将会减少。思维将越来越成为一种休闲追求,就像动物驯化之后的狩猎、活字印刷之后的书法、工业化之后的木工,以及机动化之后的骑马。机器把大量体力活动从必需变成了选择;同样,AI 将把人类思维与其经济目的脱钩。
最后,我想谈谈如何为这一过渡做准备并度过它。我的看法是,建设这个 AI 驱动的世界、挺过路上的颠簸,并准备在一个 AI 主导认知工作的环境中过上充实而满足的生活,将是极其艰巨、充满压力且极具智力挑战的。革命的本质就是如此。因此,我们必须跟上并利用 AI 的进步;保持灵活、适应力和韧性;并在工作之外建立有目标、有回报的生活。我未来的挑战,是从靠思考谋生,转向让思考成为值得过的人生的一部分。
评论
多数人强烈质疑文章把 LLM 的下一词预测等同于人类“思考”,也怀疑“思考会像打猎、骑马一样变成爱好”的类比;分歧主轴在于 AI 究竟只是把机械性认知劳动外包、让人更需负责地判断,还是真会把人类推向无劳动、无收入、连爱好都无以为继的自动化未来。
认为当前 LLM 根本不会思考,只是自动补全,用 AI 反而加重认知负担
- 当前模型只是基于已有数据的强力自动补全或下一词预测,没有真正的思考与原创,也无法直觉人的需求;很多人表示用 AI 写代码必须不断审查结构、泛化与无效测试,认知负荷不降反升。其能力还呈“锯齿状”,垃圾进只会垃圾出,离“点一下魔法按钮就满意”还很远(较多人)。 > 现在的模型只是拥有广泛记忆的强力自动补全,并不会思考(@dvt)
认为思考早就是爱好,对大众而言长期可选甚至濒危
- 很多人指出,深度思考早就不是谋生必需:读博或做研究的成本与机会成本极高,说明它早就是“爱好”;日常生活中各种手机应用已经替人理财、健身、社交、选内容,大众也乐意把判断和责任交给订阅制黑箱。AI 只是把这种外包推到极致,让思考变成一种需要重新播种、否则会彻底消失的濒危爱好(高赞)。 > 光看一个人读博要付出的成本就知道,思考早就是一种爱好了(@odyssey7)
认为责任不可委托,人仍必须思考且思考量反而更大
- 只要还负有责任,要做最好的选择就终究需要思考;这份责任不能委托给 AI。实际体验中,不少人反而在审阅 AI 给出的各种方案、数据模型和权限设计中做更高频的决策,比自己从头写更耗神。合理做法是主动决定不把自己整体替换掉,让工具只用于部分事情,同时接受工具也会反过来改变我们(较多人)。 > 只要还负有责任,要做最好的选择就终究需要思考,这份责任不能委托给 AI(@bentt)
怀疑“AI 将全面替代认知乃至体力劳动”的时间表,认为自动化被夸大
- 不少人强调,当前 AI 只在被明确告知的窄任务里表现好,很多领域既缺数据也缺可验证标准,能力呈锯齿状而非全面超越;体力劳动和蓝领价值至今巨大,L5 自动驾驶连研究机构都估计 2040 年前难实现,AI 公司本身也多处于烧钱阶段,市场远未定型(较多人)。 > 说机器让体力活动变成选择,严重低估了蓝领工人至今仍在创造的价值(@kiriakosv)
担忧经济全面自动化后人类将无劳动无收入,思考作为爱好只是空想
- 若认知劳动被替代,体力劳动也会很快被机器人接管,最后没有任何劳动留给人类;到那时首要挑战是还能不能谋生,而不是如何把思考变成生活趣味。有人结合自己“断供 AI 预算就卡住”的原型开发经历,害怕未来一旦服务中断或付不起前沿模型就无人能补救,直言不想活成作者描述的样子(少数人)。 > 我们接下来的挑战是先能活下去;如果经济百分之百自动化,谁还有闲心搞爱好(@goda90)
反思“思考”被神化,认为它应为生活服务,情感直觉可能被重估
- 有人提醒,思考与智力长期被当成最高善,但它们其实应服务于“好好生活”;一旦任何结论都能由机器解释和诡辩出来,感受与直觉反而可能成为最稀缺的能力,问题在于社会从未像保护理性那样去保护它(少数人)。 > 心智并非至善,再多的机巧也绕不开死亡与活着本身(@sixo)
有价值的补充
- 有评论联想到阿西莫夫短篇《The Feeling of Power》:人类把计算完全交给机器后连基本算术都遗忘,恰可对照“思考外包”的担忧(@charonn0)。
- 关于 AI 进步速度,有评论提到 S&P、麦肯锡、MIT 等机构一致估计 L5 自动驾驶 2040 年前都不会实现,用来质疑全面自动化的迫近(@almog)。
- 有人把 AI 比作把“思维自行车”升级成“思维越野摩托”,劝大家别太消极,偶尔玩个翘头找点乐子(@01284a7e)。