Hacker News 中文摘要

RSS订阅

AI快思考与慢思考:元认知的角色 -- Thinking fast and slow in AI: The role of metacognition (2021)

近年来,AI 系统取得显著进展,应用已渗透日常生活,但多属只聚焦图像理解、自然语言处理、分类、预测等有限目标的狭义 AI。当前最先进的 AI 仍缺少人类智能本应具备的诸多能力。作者认为,研究人类拥有这些能力的机制,有助于为 AI 系统赋予这些能力,并特别关注丹尼尔·卡尼曼(Daniel Kahneman)的快慢思考理论。

正文

近年来人工智能系统取得显著进展,许多应用已渗透日常生活。然而目前大多仍是窄人工智能,近期发展通常只聚焦极有限的能力与目标,例如图像解读、自然语言处理、分类、预测等。这些成功虽得益于算法与技术改进,也紧密依赖海量数据集与计算力。最先进的 AI 仍缺乏人类智能概念中天然涵盖的多种能力。

我们认为,更好研究人类拥有这些能力的机制,有助于理解如何赋予 AI 系统此类能力。我们尤其关注 D. Kahneman 的快慢思考理论,并提出一种多智能体架构:待解决的问题或由系统1("快")智能体解决,它们仅利用过往经验做出反应;或在需要推理、寻找超越系统1预期的最优解时,特意激活系统2("慢")智能体。两类智能体都受世界模型(含环境领域知识)与"自我"模型(含系统过往行动及求解器技能信息)支持。

评论

这场讨论的分歧主轴是:一篇 2021 年关于「快思考/慢思考」的论文,对今天的前沿模型还有多少意义。一方认为相关概念早已被现有模型的自适应推理覆盖、甚至其心理学基础本身可疑,另一方认为「让模型反思自己的推理」仍是未解的核心难题,并围绕它给出了若干架构与信息论层面的类比。

认为这套框架已被现有模型的自适应推理覆盖

  • 有人指出单模型已能通过一个思考参数自行决定是否深入推理,因此今天重提这篇论文看不出相关性(少数人),该说法还被点了踩。 > 这已经被 GPT-5 的自适应推理解决了:一个模型根据我们给的思考参数决定要不要推理,今天发这个还有什么意义?(@simianwords)
  • 另有人说知道一个大型组织完全围绕快慢思考搭建了 AI 框架,但在当前模型能力下,这个概念已经不再有意义(较多人)。
  • 也有人提醒这是 2021 年的旧文,按站内惯例应补上年份,隐含了「旧文重提」的意味(较多人)。

认为快慢二分本身就有缺陷

  • 有观点认为快慢思考作为流行心理学早已被质疑不可复现,出现在 AI 长文里并不意外(少数人)。
  • 更具体的批评是:如果只有「快」和「对思考的思考」两轴,就漏掉了「慢但有意识地思考」,也就是自我意识那一维(较多人)。 > 这篇论文仍然出色,但它缺了二次曲面的第二个轴——慢慢地、有意识地思考,也就是自我意识,没有位置。(@bbor)
  • 还有人怀疑论文作者是否真有机会在大型实验室里验证过这套设想(少数人)。

认为论文提出的问题依然切中要害

  • 有实践者说,让大模型「思考自己的思考」正是每天的挣扎,这篇论文准确说明了为什么这件事如此关键(较多人)。 > 让大模型去思考自己的思考,是我每天的难题,这篇论文讲清了它为什么至关重要。(@vist_orn)
  • 也有人强调它写于 ChatGPT 之前,这个时间点本身值得留意(较多人)。

有价值的补充

  • 结构上很像数据库的查询优化器,区别在于论文加入了一个学习/记忆组件,用来调节对第一个模型所给答案的评估。
  • 有评论借 gzip 做语言模型的实验打比方:gzip 之所以输出乱码,缺的只是一串正确的字节序列;而思考做的事,就是从提示这个高熵源出发预测缺失的 token,从而提高从权重中「解压」出目标结果的概率。
  • 有人提醒心理学里那些标着「感知」「认知」并画上箭头的方框只是人为划分,真正产生认知现象的低层机制未必对应这些整齐的盒子。
  • 也有人认为值得重新审视这类循环架构:JEPA 式的循环很有意思,但可能受制于组件顺序缺乏灵活性而失败。