过去几个月,大型语言模型(LLM)的数学能力大幅提升,已能解决许多数学领域长期未解的重大问题。但人工智能(AI)公司把解数学题当作基准来推进,这对数学科学和数学界有害,AI公司与数学界的目标严重错位。研究数学旨在理解形状、数字和自然现象的基本结构,历代积累了大量复杂思想、方法与工具,现代技术与科学也建立在这些数学工具之上。
正文
近几个月,大语言模型的数学能力突飞猛进,已能解决许多数学领域长期悬而未决的问题。但AI公司把解数学题当作基准来推进,对数学这门科学和数学共同体都是有害的。AI公司的目标与数学共同体的目标严重错位。我们认为,这只是更广泛的错位问题的一部分,它同样影响其他科学与创造性职业,乃至整个社会。
研究数学,是去理解形状、数、自然现象的基本结构。经过一代代人积累,它已建成一整套精妙的想法、方法、抽象与工具,用以认识这片数学风景。现代技术与科学,反过来又建立在数学工具之上。
著名问题常常充当路标与灯塔,人们借此衡量自己对这片风景理解的进步。解决其中一个问题,向来是新洞见与新方法的确定信号,随后会由数学共同体通过报告、讨论、简化的漫长艰苦过程来研究。这个过程走到尽头,理想情况下会出现一份教科书式的呈现,任何研究生甚至本科生都能研读。有些数学想法会走得更远,在几十年或几百年后成为全体民众都能理解和使用的工具。
数学共同体在许多方面就像人类的微缩版。它由采用各种不同路径的个体组成,靠共同的价值联结。我们这一行最宝贵的资源是学生和想法,我们精心培育它们,让它们充分成长,直到在数学世界里独立存活。给学生提问题时,核心意图常常是培养技能,让他们为研究或其他方向的突破做好准备。我们的想法通过报告、私下讨论和认真写就的文章传播,并与他人先前的想法相连接。这些过程必然耗时,且基于人与人的互动。
近几个月,AI解决重大数学问题的成功甚至登上了数学圈外的头条。但解题只是达成概念性理解与洞见这一首要目标的工具和代理。在AI领域忘记这一点,可能让工具反噬首要目标。事实上,以越来越快的速度批量生产"真/假"陈述,可能摧毁沃土,而非为新想法注入生命。
这些解答往往仓促公布,没时间好好写清楚、提炼出新方法与新想法、引用他人相关工作。和所有创造性职业一样,这带来严重的署名与抄袭问题。而且,如果没有愿意承担其发展与融入数学正典的数学家,AI构想出的想法永远不会真正活起来,数学家之间关键的人类传承链也会断裂。
我们正目睹智力工作普遍受到的威胁:AI使用的结果与其初衷错位。在许多领域和活动中,多年训练向来不只是为了产出最终答案或产品,也是为了培养理解力,以及提出新问题、新想法的能力。然而,凭借人类此前大量工作,AI系统越来越能直接产出这类工作的结果,两个目标就此不再一致。数学界如今面临的问题,与其他科学与创造性职业面临的问题相似,也预示着全人类可能面临的问题:当AI改变工作方式时,如何确保我们不忘这份工作原本要达成什么。
AI有潜力增强并加速真正的数学研究与理解。数学这一职业需要在若干方面适应这些变化。但这些变化最终是造福这一领域还是造成破坏,很大程度上取决于掌控这项新技术的人所做的决定。
这些问题必须紧急应对——在数学共同体内部,在开发这些技术的公司,以及更广泛地,在一个将在许多其他智力工作形式中面对类似问题的社会里。
Artur Avila(2014年菲尔兹奖)
Manjul Bhargava(2014年菲尔兹奖)
Caucher Birkar(2018年菲尔兹奖)
Pierre Deligne(1978年菲尔兹奖)
Yu Deng(2026年菲尔兹奖)
Simon Donaldson(1986年菲尔兹奖)
Hugo Duminil-Copin(2022年菲尔兹奖)
Alessio Figalli(2018年菲尔兹奖)
Martin Hairer(2014年菲尔兹奖)
June Huh(2022年菲尔兹奖)
Maxim Kontsevich(1998年菲尔兹奖)
Elon Lindenstrauss(2010年菲尔兹奖)
Pierre-Louis Lions(1994年菲尔兹奖)
James Maynard(2022年菲尔兹奖)
Curt McMullen(1998年菲尔兹奖)
Shigefumi Mori(1990年菲尔兹奖)
Ngô Bảo Châu(2010年菲尔兹奖)
Andrei Okounkov(2006年菲尔兹奖)
Peter Scholze(2018年菲尔兹奖)
Stanislav Smirnov(2010年菲尔兹奖)
Terence Tao(2006年菲尔兹奖)
Maryna Viazovska(2022年菲尔兹奖)
Cédric Villani(2010年菲尔兹奖)
Wendelin Werner(2006年菲尔兹奖)
Efim Zelmanov(1994年菲尔兹奖)
评论
这场讨论对 Tao 等人的担忧普遍抱以同情,但几乎没人认为公开信给出了可执行的诉求;分歧主轴在于:这到底是 AI 本身的问题,还是资本与激励结构借 AI 显形的问题。另一个反复出现的反直觉声音是,数学或许恰恰需要 AI。
担忧成立,但没人说清可行的诉求是什么
- 有人认为公开信只是把举证责任推给了 AI 公司,要求它们自己拿出替代机制,而 Tao 本人在信中也承认时间紧迫、没来得及做更充分的咨询。(较多人)
- 核心疑虑是:即便在理论上,什么才算现实可行的补救方案?(较多人) > 我不清楚诉求到底是什么,哪怕只在理论上,什么是可行又现实的解法?(@jonahx)
被破坏的不是理解,而是衡量贡献的那把标尺
- 有人指出,AI 并没有切断数学家之间分享理解的能力,真正失效的是「解出未决问题」这个传统贡献度量;猫已经出笼,结局要么是数学变得更保密,要么是论功变得更主观、争议不断。(较多人)
- 更精确的版本是:解题从来只是通往洞见的工具和代理指标,把问题解出来却没走那条有趣的路,等于白干;当激励机制让「事后从暴力解里回收洞见」比原创解法更不值钱,损害就发生了。(较多人) > 现在我们可以更确定费马大定理为真,但这一点大家早就料到了。(@pred_)
这是钱和权的错位,不是 AI 本身的错
- 一种解释是出资方与从业者之间的错位:政府和资助者要的是实用结果,过去只能依赖数学家那种更像社会活动的过程,现在可以绕开它。(较多人)
- 有评论认为用「对齐」这个词很妙,因为优化器不挑载体,公司和国家同样会失准,LLM 只是其中最显眼的一个。(较多人)
- 也有冷水:这不过是生计与地位受威胁时的可预期反应,只是用学术语言包装,未来会在所有行业重演。(较多人)
- 还有人把它定性为「人类对齐」问题,认为项目方的行为才是症结,语气里的愤怒针对的是人而不是模型。(少数人)
反直觉:也许数学更需要 AI,需要的是重新定义成功
- 有人明确反对 Tao 的立场,认为领域已细分到个人无法看见全貌,地图太大,正需要更好的工具来推动数学。(少数人)
- 另一种说法是,与其说能找证明的工具本身有害,不如说它让一些旧假设失效了,数学家需要重新定义工作与成功。(少数人)
- 更根本的质疑是:数学乃至科学的首要目标,本来就是比前人更好地理解宇宙。(少数人)
受冲击的远不止数学
- 软件工程同样如此,很难想象有人每天醒来立志自动化掉自己剩下的工作;出租车司机同理,硅谷最聪明的头脑在做让司机失业的事,而救灾现场最大的起重机却陷在泥里动弹不得,技术投入的方向本身就很奇怪。(较多人)
- 编程等日常任务里已经能感到思维的模式坍缩,可怕之处在于等实验机构对某个领域失去兴趣,人类未必回得去,一个领域的职业生态可能已经被毁掉。(较多人)
有价值的补充
- 一个精巧类比:用华夫饼机解决「煎饼翻面」问题、用视频会议解决旅行商问题——答案有了,但问题本该通向的东西全丢了。
- 判断本次争议需要背景知识:Tao 长期为 AI 在数学中的用途站台,甚至被讥为商业公司的托;他反对的不是 AI,而是大公司为了行销素材而选的路数——抄袭未发表想法、抢发、拒绝合作。真正有价值的是写作严谨、引用充分、带来洞见的论文,而不是一堆 Lean 代码。
- 有人把这件事和开源开发者的遭遇类比:公司白拿代码做闭源 SaaS,如今轮到数学家自愿贡献思路和半成品证明,喂给「抄袭即服务」的平台;菲尔兹奖挡不住这些。
- 一个冷知识式的澄清:信中「25 位初始签署人全是菲尔兹奖得主」常被误读成全体在世菲尔兹奖得主联署,实际在世者有 47 位。
- 关于「谁来引导超级智能」的悖论被点出:此刻 20 年教育已难自证其价值,可若没有这样的人,又由谁来指导那些号称超级聪明的机器。
- 代表社区疲劳情绪的一句:大家天天都在愤怒,愤怒已经没有意义了,就像红蚂蚁和黑蚂蚁在盒子里相安无事,直到有人晃了晃盒子——它们开始互相撕咬,而不是去找晃盒子的人。