三年前，AI 还不能可靠地做两数相加。一年前，开放人工智能（OpenAI）和深度思维（DeepMind）的模型在 IMO 拿到相当于金牌的分数。如今，AI 系统自主解决未解问题。几周前，我做了题为《数学的终结》的演讲。只看标题，你可能会以为它讲的是 AI 会“解决”数学。演讲描绘一幅黯淡未来图景：即便 AI 在数学上稳健超越人类，制度设计也可能让人对数学的理解乃至数学进步陷入停滞。
正文
三年前，AI系统还不能可靠地做加法。一年前，OpenAI和DeepMind的内部模型在IMO上获得了相当于金牌的成绩。现在，这些系统正在自主解决重大开放问题。这种趋势很难想象会再持续一年，但我预计它会的。显然，这将需要对这一职业进行根本性的重新思考。
几周前，我做了一个题为《数学的终结》的演讲。如果只看标题，你可能会认为这个演讲是关于AI很快会“解决”数学的。实际上并非如此。演讲描绘的是一个黯淡的未来图景：尽管AI系统可能在数学上变得超级强大，但我们的制度设计可能导致人类对数学的理解——甚至抽象的数学进步——陷入停滞。虽然我认为我们会避免这个未来，但如果学术数学不做出调整，这很可能是默认结果。尽管我相对热衷于使用AI做数学，但许多反对AI的人也持同样的观点。
在这里，我想提出一个关于数学和人类数学实践的积极愿景。我声称，即使生产有趣的数学变得越来越不依赖于人类理解，我们仍然可以深化人类的理解。
这篇文章的前提是，AI系统在大多数或所有数学方面将成为超级强者。但我提出的具体制度变革只需要一个较弱的前提：数学文本的生产正变得越来越与数学理解脱节。
我们到底要做什么？
我认为现在数学界对目标的共识已经消失。一些人想解决问题，一些人把数学当作游戏或诗歌。对一些人来说，“我们必须知道——我们将知道”。一些人认为我们在探索柏拉图领域的奥秘。还有一些人认为目标是体现和传达对数学的热爱与理解，并将其传承给下一代。
我个人的回答是：
- 我们试图生产和理解高质量的数学。
- 我们试图培养高质量的数学家。
这些目标应该从广义上理解。高质量数学的内涵随着时间发生了巨大变化，这是由我们整个社区来定义的。我们的工作不仅是训练博士生做数学研究。相当一部分——虽然可能被低估——是向公众普及高质量数学和数学思维。
无论目标是什么，我们主要通过证明定理来操作化这些目标。几乎所有论文或博士论文都有一个主要定理，表面上也有对它的证明。但数学的目标显然不是证明定理——如果是的话，自动化就太容易了。一台计算机或猴子可以很容易地从ZFC公理开始，迭代应用推导规则，完全不关注它们的含义。当一个定理解决了一个开放问题时尤其有意义——尤其是那些经过大量努力仍未解决的情况。这同样容易自动化；我们的计算机或猴子可以简单地按字母顺序列举所有数学命题。
我们社区对能够证明定理和解决开放问题的技术的普遍态度表明，这些对我们价值观的操作化充其量是不完整的。
通过枚举所有猜想和ZFC的所有证明来自动化数学的前景可能不会让你感到不安。但让我们假设这台计算机或猴子非常聪明——也许它理解它所证明的结果，并写出优美的阐述。也许它对我们认为有趣的东西有很好的判断力，主要关注那些问题。也许它在列举ZFC定理的过程中回答了我们许多最紧迫的开放问题，并提出了更多基本的开放问题。这时候人类数学家还有存在的必要吗？
我认为有。这台机器可能生产出我们珍视的答案，但它本身不会产生对这些答案的人类理解。实际上，我认为我们正处于数学难以置信的美好爆炸的开始，如果我们珍视人类理解，对人类数学家的需求将比以往任何时候都大。但这个职业必须改变。
在这个变化过程中，我们需要决定什么应该保留，什么应该抛弃。有些东西我想保留：学习研讨会、激发想法的偶然对话、学生敲教授的门讨论数学。一个在学习激动人心的新数学方面强大的社区。成千上万的人聚在一起慢慢解决他们的困惑。
我担心关于这个话题的许多讨论——包括我自己过去的一些文章——过于关注保持学术数学机构的精确形态，而不是我们的价值观。如何保持期刊和同行评审系统？如何保护arXiv？如何保持我们作为守门人的角色？如果你已经内化了现有的AI系统可以用几美元的边际成本产生相对高质量的结果，那么任何当前平衡的类似物都能在即将到来的变革中生存的想法是荒谬的。
在寻找新的平衡时，我们可以尝试追逐模型能力的边缘。目前AI系统在理论构建、提问、阐述等方面可能表现不如我们，因此我们可能会优先考虑和奖励这些技能。我认为这是不明智的——比较一下学院适应变化的速度与模型能力提高的速度。我们需要考虑最终状态。如果模型在某些领域仍然存在不足，我们可以稍后调整。
在我提出一些相对具体的步骤之前，让我先评论我们试图保护数学免受什么影响。对AI实验室及其某些个人存在大量愤怒。但无论我们对实验室的看法如何，我们需要一个不依赖于AI能力消失的计划。基本问题不在于实验室的行为——无论其道德与否——而是技术本身。有些人认为实验室明年会“转向”数学、被国有化或拆分、金融泡沫破裂，从而恢复正常。但任何拥有笔记本电脑和几百美元的人现在都可以生成去年会出现在《数学年刊》上的论文。我们的机构无法在这种情况下保持不变。AI不在乎你是否反对它。
培养高质量的数学家
我们的职业现在面临的最紧迫问题是：学生应该做什么？现在已经可以产生一篇甚至没有读过的博士论文；就展示理解而言，数学文本的价值不过如此。文本的价值不再可靠地传达关于其作者的信息。
在我看来，我们应该欢迎有趣的数学结果，无论其来源如何。但我们的机构历来依赖同一信号来指示数学进步和数学专业知识。现在必须区分这两者。
我提出对数学博士目标进行以下重新概念化：成为某个有趣而深刻主题的世界专家，并能够向他人传达这种兴趣和理解。操作性定义的一部分可能是论文，但学位主要基于严格的答辩，学生向考官解释该主题直到他们满意为止。虽然我们可能要求主题具有原创性，但其来源——是AI还是其他——是无关的。
这与现在的博士有多大不同？我认为学生仍然会与导师会面，导师可能会建议一个主题。该主题可以在AI帮助下探索，也可以不，但学生要对其理解负责。该主题可能比现在的典型博士更开放、更广泛。学生将被训练提出有趣的问题并尝试解决这些问题，通过任何方式。为了让学生保持正轨，可能会有定期会议，学生被要求独立处理不熟悉的例子、在新情况下应用技术等。
我们工作的分配方面——招聘、研究生录取等——如果我们要保留人类数学专业知识，就需要进行急需的改革。我认为我们应该专注于奖励工作中无法自动化的部分：内部部分（比如理解数学）和社交关系部分，以及尽可能接近这些方面的操作化。例如，演讲和持续的数学讨论现在比论文更能展示理解。一旦AI系统提高在阐述和“消化”方面，情况更是如此。我们已经面试教师招聘；研究生录取也必须这样做。
我们应该尝试培养一个强大的研讨会文化，演讲者被期望向听众满意地解释他们的主题。最近已经写了很多关于我们主要对理解感兴趣，而不仅仅是数学陈述的真假。如果是这样，让我们确保我们真正相互理解。
目前，使用AI系统做数学达到一定水平以上依赖于我们的社区已经产生了许多开放猜想，这些猜想的趣味性由关心它们的人类数学家来证明。这一事实最近的重要性向我表明，我们的社区发挥着一个非常重要但可能一直被低估的功能：即弄清楚什么是有趣的。我不完全确定如何将其操作化，但一种可能性可能是奖励构建研究项目，这些项目能够说服他人其价值。
我并不是说AI系统将无法提出有趣的问题、做出有趣的猜想、追求有趣的项目。我认为它们很可能可以，从而产生大量PDF的产出。其中一些内容可能具有重要应用价值，但其他内容主要因为告诉我们一些关于基本数学对象的基本知识而有趣，只有在我们能够并确实参与其中时才有价值。在我看来，我们将不得不建立一个研究者社区来做这些工作，我们应该奖励那些这样做的数学家。即使AI提出了优秀的问题，也没有理由认为它会提出与我们相同的问题。
所有这些变化的目的是增加我们彼此之间关于数学的讨论。这在我看来，即使在一个没有AI的世界里也是积极的。
我认为在这个世界中，既有像我一样对AI充满热情的数学家，也有不使用它的数学家都有空间。但随着模型开始产生大量数学，完全避免它们的输出将变得不可能。
培养高质量的数学
在我们思考如何重塑我们的职业时，重要的是要理解，无论你喜欢与否，人们、业余爱好者或专业人士，都在按下按钮生产数学，这种情况无法阻止。认为我们会说服人们不要玩数学，或者我们会为研究生“保留”问题，这是不现实的。我们不应该想要这样做！
现在对数学的兴趣比历史上任何时候都多。我们应该为数学本身感到欣喜，即使我们为数学家和数学专业知识感到担忧。总的来说，这个按钮操作的价值来自数学社区。如果一个猜想落在树林里而没有人听到，谁在乎呢？对于新的数学要在应用之外有价值，我们将需要更多的新数学家。对于有应用的结果，我们希望人们有能力理解其假设和后果。
我之前写过，解决问题和解决开放猜想是我们价值观的不完整操作化。但解决问题和解决猜想仍然很重要！这些解决方案的来源只有在涉及现有职业结构——激励、声望等——时才是重要的。无论如何，这个结构需要改变。
数学曾经是最便宜的科学。我认为我们面临的最大变化是，现在我们的一些问题可以通过资金投入来回答。我知道一些同事觉得这令人痛苦。之前这些问题可能会聚集一个研究社区，带来有趣的附带发展等。这种偶然的进步可能不会再发生了。
但你不相信数学吗？总有更多东西要学。如果一个基本问题可以用一顿美餐的费用来解决，我们应该感到高兴。但这只是开始。我们会问这个答案解释了什么，它帮助我们理解了什么。它将引出更多新问题，其中一些可以用一顿美餐的费用来解决，其他的则会使我们重新陷入困惑并导致一个研究社区的形成。
我们勤奋的新助手将产生令人难以置信的大量数学，追求我们的兴趣或它们自己的兴趣。我们将有我们自己的问题和困惑；有时它们会被模型解决，有时不会。有时答案会很复杂，我们会花一个学习研讨会来研究它们。有时进展微乎其微，但问题本身如此激励人心，以至于产生了一个研究社区。
一个学生会感到困惑。他们会敲教授的门。也许他们两个会向模型寻求帮助，也许不会，但首先他们可能会花一些时间在黑板前思考这个问题。模型可能会给他们一个漂亮的解释，但我们都知道这还不够；没有人能替我们理解数学。我们必须自己动手。
有这么多东西要学——无限多。我们总是在开始，我们也总是会在开始。
评论
讨论整体偏乐观：多数人接受 AI 正在重塑数学研究，并认为出路是改革评价方式、把「人类理解」重新放回回路中心；分歧主轴在于这究竟是一个只要改进模型就能解决的问题，还是一个人类验证能力将被彻底甩开的死结。
认为博士考核的重心应从论文转向严格的口头答辩
- 在 AI 能快速产出内容的时代，判断一个人是否真正理解某个深而有趣的主题，最可靠的方式是让他讲给考官听，直到考官满意为止；论文可以是副产品，而不必是唯一凭据（高赞）
- 有工程师用同样的逻辑主张线下设计评审优于异步的 PR 评论：不管代码是谁或什么敲出来的，都要确认人脑里有一个连贯的设计，并能证明它被落实了（较多人）
- 理解机器的输出所需时间远多于生成它的时间，而检验自己是否真的理解，几乎唯一的方法就是解释给别人听，这会催生一种更依赖人类社交压力的、合作式的数学形态（较多人） > 如果连「我猜 Claude 觉得这样不错」都能算设计，那就不叫设计。（@wrs）
认为真正的死穴是验证，人类很快将无法独立核验 AI 的证明
- 编码领域已经出现的困境是没人能独立验证全部 AI 产出，而数学更糟：代码评审是几天内的事，证明的验证周期却是数月乃至数年（较多人）
- 千年难题级别的要求是发表后至少两年有效，而 AI 的产出速度让这两年近乎无限长；照此下去，前沿问题将由 AI 提出、由 AI 基于 AI 的结果证明，人类连解法的性质都无法理解（较多人）
- 即便机器能产出有价值的答案，它本身并不会产生人类对这些答案的理解；而验证问题正是「丰裕视角」下必须单列出来的那一环（较多人） > 我们不知道，将来也不会知道，但机器知道。（@wcfrobert）
认为不必唱衰，把模型改好到能自己讲清楚就行
- 早期代码模型也被抱怨写得脏、懒、注释差、难以审阅，正确的回应是改进模型然后往前走，而不是宣布世界末日（较多人）
- 反过来说，AI 恰恰是最适合把日益复杂的证明降维成人类语言的那个角色，它应该被要求不断重构证明，直到接近「天书」般的优雅形式（较多人） > 与其反复论证不做这件事就是末日，为什么不直接去做？（@ComplexSystems）
认为数学界长期不重视可理解性，如今是轮到自己的报应
- 许多数学领域几乎不曾努力让人看懂自己的工作，把本可受益的人挡在门外；现在 AI 对数学家用同样的态度，颇有点幸灾乐祸的意味（较多人）
- 如果数学的使命真是传播直觉与理解，那相关机构几十年前就失职了，也许需要的不是修补，而是从头再来一次（少数人）
认为知识获取的瓶颈已被削到只剩动机
- 从前是知识被把持，后来是选书与选题的门槛，再后来是缺一个能随时答疑的导师；一次交互式对话把过去要一周的答疑压缩到一小时（较多人）
- 由此推论，唯一剩下的瓶颈就是人的动机；能理解的主题也将比传统博士论文更开放、更庞大（少数人） > 所以，唯一的瓶颈就是人的动机，证毕。（@ksd482）
有价值的补充
- 德国招博士生时，申请者要先给研究组做三四十分钟报告讲硕士论文，再参与讨论、一起吃饭、与组员一对一、最后与导师长谈；没有类似流程就招人难以想象，所以「招生要面试」并非新发明（@bonoboTP）
- 用古希腊奥运会的类比看这场变革：从前只有举得起重石的人才能戴上桂冠，阿基米德造出外骨骼后，普通人也能举起两倍重量，于是评判标准必须转向别处——而物理和生物同样不在豁免之列（@Jun8）
- 有人盼着静态排版的 PDF 报告格式彻底消亡，这种承载知识的形态早该被取代（@jkhdigital）