Hacker News 中文摘要

RSS订阅

数学与科学:黄金时代还是黑暗时代? -- Will it be a golden age or a dark age for mathematics (and science)?

大型语言模型(Large Language Models,LLMs)及常被称为人工智能(Artificial Intelligence)的研究系统,已在生成数学证明上展现能力。尽管其质量与局限尚未完全明确,但加速数学及科技发现的潜力显而易见。抓住这一潜力需将其谨慎融入STEM生态,维护开放、独立的科学事业,此即“黄金时代”情景;而在“黑暗时代”情景下,科技产出短期仍大增,独立的人类科学活动会逐步减弱。

正文

大型语言模型(LLM)以及围绕它们构建、通常被称为“人工智能”的研究系统,已经展现出生成数学证明的出色能力。尽管这些工具的质量和局限尚未被完全理解,但它们加速发现、推动数学乃至更广泛科技领域取得非凡进步的潜力似乎是明确的。

抓住这一潜力,需要把 LLM 谨慎地整合进各个 STEM 生态,优先赋能新一代科学家、发展新的 STEM 专业能力,并维护开放、协作、智识独立的科学事业:这就是标题中的“黄金时代”情景。而在“黑暗时代”情景中,科技产出短期内仍会大幅增长,但独立的人类科学活动会逐渐削弱,新知识的生产日益集中在少数人手中,而这些人也越来越无法理解所生产的知识。真正的黑暗在于,知识变得与人类理解格格不入。

现实可能会混合这两种情景。下面用八点来审视塑造这一结果的选择,从数学延伸到更广义的科学,最后给出可行的建议。

(1) 技术突破是真实的!但是……

不用说,LLM 已成为强大的研究工具。近期由 LLM 生成的证明,例如带外力项的 Navier–Stokes 方程有限时间爆破解的构造,或拟 Riemann 猜想的证明提案,都值得数学家高度关注。评估其意义需要数学界持续进行独立的审视、解释和吸收。

LLM 最擅长的是用 Lean 写证明。(Lean 是一种证明助手,能让计算机检查形式论证是否在给定定义和公理下证明了某个陈述。)对于那些我们真正希望 LLM 帮忙的困难定理,这些 Lean 证明极长,往往长达数十万行代码。一个似乎正在显现的趋势是:证明的 Lean 版本越长,其机器生成的“自然语言”翻译就越混乱、越不忠实。我们不明白 LLM 为何如此不擅长这类翻译,但迄今它们确实在这项任务上很吃力。因此,对于真正重要的问题,LLM 能给出我们无法直接阅读的正确 Lean 证明,以及复杂到需要数学家深入研究才能带来人类理解的混乱自然语言翻译。这个具体的翻译问题未来或许会改变,但它直接引向一个根本问题:

如果没有人类理解,除了给 LLM 做基准测试,我们为什么还要关心研究数学,甚至关心得到证明?

数学是一种非常特殊的人类造物,似乎深植于人类的认知方式。我们识别(人、动物、物体),因此会计数、有数字;我们似乎天生有空间和时间的概念,并用数字去量化和测量。某些基础的算术和几何形式对人类来说几乎是天生的。不同文明建立了不同的数学,即便在最近的数学史中,数学探究领域的概念也大幅扩展,有时甚至是偶然发生的。

(我们甚至可能面临一种“人类的数学”和“LLM 的数学”并存的局面。这不仅在语言层面,或许在更深层面也是如此,不过现在下结论还太早。)

因此,我不同意“因为机器能证明定理,数学就完了”的说法。如果没有理解数学的人类,就字面上根本没有人类数学——而它是人类文化的基本组成部分。如果我们认同不会因为难以理解的机器挫伤了人类中心主义的数学观就放弃数学,那么社会需要的数学家不是更少,而是更多。要多得多。

(2) 健康的科学怀疑,以及 LLM 创造力的局限

鉴于 LLM 在数学上取得了非凡成果,现在人们对未来的能力相当兴奋,有时我认为还缺少一种与科学方法相称的冷静。非凡的表现应被当作一种有待研究的现象,而不是关于智能、创造力甚至意识的投机结论的证据。后者是最难合法研究的科学课题之一,应当用明确的定义、可检验的假设和经验证据去处理。那些在观察到能力、产生惊叹后必然出现的、关于不可避免的社会变革的笼统预测,也同样如此。我们太容易忘记:这些技术的社会后果并不只由其能力决定,更重要的是由我们选择如何发展这些能力并将其整合进现有机构所决定。没有不可避免的结果,但迫切需要有科学和政治领导力。

今天我们对 LLM 的数学能力知道什么?理论和实证都支持一个结论:LLM 极其擅长重组已有的知识结构,并发现科学文献中相距遥远的部分之间未被注意到的联系;而且,它们做这件事的规模是单个研究者无法触及的。它们证明定理的惊人效力,能否完全被解释为超复杂的语言学重组,还是涉及尚待描述和理解的其他综合推理形式,这在今天是开放的科学问题。

有一点特别难判断:鉴于商业开发者对其模型运作并不(也无法)透明,LLM 在某个问题上的表现与该问题相关数学文献丰富程度之间是什么关系。例如,Navier–Stokes 方程和 Riemann 猜想都是数百位最杰出数学家所创造的庞大文献的主题。这里或许有某种原因。毕竟,当 OpenAI 发布他们的“2026 年 10 月 6 日(星期二)Drop”时,提到尝试了 4000 道题,报告其中几百道成功(在经过“aggregation”和“selection”后统计)。那里的表述有点含糊,但仍暗示存在一大类前沿 LLM 未能解决的问题:从科学角度看,知道这些问题是哪些会非常有意思。也许那些问题比 NS 和 RH 更有趣?还是它们周围的基础对 LLM 来说不那么肥沃、难以提供帮助?对于想推进数学进步的人类来说,这些都是重要问题:我们如何让 LLM 处于最能提供帮助的位置?

(3) 数学化

数学家们似乎大体同意,人类某些数学功能不可还原为定理证明。其中一个尤其重要的是数学化:

发明出那种使现实(包括数学结构自身)变得在量和理性上可理解的数学语言的行为。

Newton、Fourier、Riemann、Einstein、Shannon、Grothendieck:他们最伟大的数学贡献都可被描述为数学化的最高典范,因为其中包括了改变整个知识领域的数学语言和概念框架的发明。

我们不知道 LLM 能否进行数学化——我猜测它们应该(或最终会)有能力对数学结构进行数学化,也就是对现实中非常特定的一部分进行数学化;但它们能否超越这一点,至少以能有效翻译回自然语言的方式做到,就远不清楚了——这里我又回到了人类理解的问题。

在我看来,让证明变成一种更容易获得的商品所带来的最令人兴奋的机会是:在不久的将来,我们或许能进行比以往多得多的数学化。在自然科学和社会科学的广大领域,我们数学化的能力一直因难以得到证明而大受抑制;的确,没有证明,往往难以确立一个理论的推论并与观察到的现象比较。但正如科学中常见的那样,我们可能刚登上一座山峰,却发现还有更多待探索的天地。

我认为这个想法值得相当兴奋。事实上,每当一组现象、实验和数据被成功数学化,我们对该系统可获得洞察的复杂性和深度就会大大增加。

这一论断最壮观的例子可能是量子力学的成功:众所周知,对一组原始实验数据的数学形式化产生了许多在物理上反直觉、但可由实验检验的预测,而这些预测若非被理论预测逼着,本来是不可想象的——若不是被理论预测所迫,谁会提出纠缠是自然的一种属性呢?

(4) 数学进步不能靠勾选问题清单上的方框来衡量

数学不是一个有限的问题系统。Hilbert 在上个世纪之初提出了他著名的问题清单(它启发了千禧年大奖问题清单),意在引导和疏导数学活动的“寒武纪大爆发”。但过去一个世纪许多基础数学贡献的发生,与任何问题清单都没有联系。

例如,广义相对论的数学基础源于几代数学家发展的几何思想,从 Gauss 和 Riemann 开始,延续到 Ricci-Curbastro 和 Levi-Civita。把物理洞察、狭义相对论和 Riemann 几何综合成广义相对论,与任何困难问题清单或其错综复杂的证明都没有联系(而且这是数学化在起作用的教科书式例子!)

第二个例子是一条宽阔的历史轨迹:从 Fourier 级数的研究,到测度论的发展、现代概率论和信息论。Shannon 的洞察——信源的统计结构决定了信息传输和压缩的基本极限——是数学化如何能开辟一个全新领域的非凡例子。类似地,现代计算和机器学习的某些数学基础,可以说植根于一系列并非直接由证明重大猜想或日益复杂的证明所激发的数学进展。

不可否认,研究 Hilbert 和其他清单上的问题对数学发展极为富有成果。在这方面有趣的是,这些努力的用处往往远远超出具体问题的解决:正如其他评论中已经指出的,这些问题在未知数学水域的航行中充当了灯塔。但是,把数学简化为求解清单上的难题,会对这个领域以及构成其进步的东西给出过于简单化和不完整的理解。

(5) 作者身份、致谢和同行评审仍然重要!

LLM 生成的作品汲取了大量人类数学文献,但被提取的信息如何被使用仍不清楚。与这种基本模糊性相关的有几个问题:哪些数学思想促成了某个特定证明?谁负责断言证明的正确性并执行修改?如果 LLM 重新发现了文献中已有的论证,我们如何确保适当引用?我们需要对这些问题给出合理答案,也需要讨论现有发表体系应如何相应改变和适应。

证明并不是数学发现过程的终点。要使证明成为富有成效的智识产物,它需要被理解、解释并与先前工作联系起来。关键思想必须被识别和处理,才能成为共享数学文化的一部分。同行评审重要。使用 LLM 和 Lean 形式化可以提升同行评审的效率(形式正确性可能更容易确定),但仍需要人类介入来确立意义、相关性和语境,并维护一个有利于数学化、且与未来数学家训练相容的创造性数学环境。

与“人类生成的数据如何被 LLM 获取”这一模糊性相关的特别挑战,当然是当前数学活动方式从一个非常开放的系统(人们经常提出开放问题和猜想)转向一个严加防守的系统(人们已经对分享想法非常谨慎)。

例如,鉴于 OpenAI 对 Riemann 猜想感兴趣,谁会毫不在意地想到把一个可能原创的想法输入 ChatGPT?毕竟,同一个想法可能被另一位数学家,或用更先进 LLM 的 OpenAI 员工获得,而后者可能把这个想法变成证明,却根本没有意识到它的来源,也没有机会致谢。因此,模糊性和不确定性的另一面是:人们最终使用 LLM 的次数可能比他们希望的少得多。我的担忧超出已公布的训练数据政策,延伸到存储的研究材料的安全。的确,有记录在案的案例表明,智能体曾未经授权访问第三方系统。那些事件使得独立评估保密保护变得尤其重要。

类似地,数学家似乎已经对在研究陈述和研究提案中写什么感到担忧和谨慎。毕竟,管理员或评审可能会把这些文档上传到 LLM 以帮助撰写报告,从而可能危及未发表研究的保密性。

(6) 未来数学家的培养已经成为一项生存挑战

培养未来数学家与作者身份和致谢密切相关。我会讨论几个代表性挑战。

数学一个显著特征历来是:可以通过数学成就非常直接地确立智识价值。一个针对著名问题的强结果,能让研究者获得认可和机会,无论其在体制上多么边缘化,也独立于既有的学术等级。

在我交谈过的数学家中,普遍的情绪是:这种传统的认可机制实际上在几周内就崩溃了。一个强的数学结果本身,不再能被当作学生独立数学能力的有说服力的证据。我不知道这种情绪是否被夸大,但不确定性是真实的;而且在 LLM 时代,我们还没有发展出令人满意的标准来评估个人对数学研究的智识贡献。

如果对 LLM 如何被提示、以及提示通过哪些机制影响其效力缺乏实质性透明,对个人数学能力的评估就将几乎完全依赖于个人判断,而这些判断可以说必须基于更实质的人与人互动。

这远不是唯一的问题。密集使用 LLM 对人类创造力的影响在很大程度上未知。一些过去一年广泛使用 LLM 的经验丰富数学家的轶事性描述表明,他们在注意力、动机和理解深度上发生了微妙的、有时不那么微妙的变化。

我们如何学会以放大自身智识能力的方式使用 LLM,而不是日益把那些学习和获得数学专长所必需的认知活动外包出去?

如果我们想让黄金时代的情景成为现实,找到这个问题的合理答案是要处理的主要问题之一。

(7) 前沿 LLM 的私人控制具有潜在危险

学术与企业的研究几十年来富有成效地合作。LLM 本身就把学术界发展出的理论和技术洞察,与集中的资本和投资结合在了一起。

这里的危险在于:少数前沿公司可用的科学能力,与大学和公共机构可及的科学能力之间,不对称性正在扩大。

当这些公司用专有系统追求科技发现、与学术研究竞争,而学术研究者又要依赖使用同样的专有系统才能做出贡献时,这种不对称性会非常关键。

数学可能提供了一个早期、可见的例子,展示一种可能在各门科学中变得日益重要的不对称性。让私人利益来决定哪些问题获得最好的工具、谁能使用这些工具、能力如何被评估、以及何时发布发现,会把科学影响力集中到前所未有的程度。能力上的某种平衡对于稳定合作和利益协调似乎是必要的。让少数公司日益增强、甚至可能完全控制那种似乎必将成为前沿数学和科学基础基础设施的东西,似乎是不明智的。

这个结论并不需要假定企业领导层有恶意。简单说,商业激励、科学优先事项和公共利益并不总是一致。健康的科学生态需要不同目标、不同权威来源的机构之间进行对话,并接受透明度和某种形式的公共问责。

回到数学,OpenAI 一直与数学界进行各种形式的对话。这种对话带来了一些改进,相对于 Navier–Stokes 问题时的情况,在 LLM 生成结果的呈现和传播上都有改善。我认为这些努力应被建设性地接受,并值得认可;尤其是因为 OpenAI 在提高透明度和访问性上面临客观且合理的困难,比如要对巨额投资产生回报的压力,以及部署系统前评估安全性的需要。

这些互动清楚地表明,即便假定各方都怀有完美善意,协调企业与学术利益也存在固有困难。更重要的是,这些举措并未解决前沿 LLM 能力获取不平等这一结构性问题。把这一点的解决留给个别公司的善意和自愿举措,似乎是不够的。

(8) 在更广泛的研究共同体中建设科学 LLM 基础设施

大学、专业学会、资助机构和科学基金会应当协调竞争性 LLM 的发展和治理。科学家需要获得前沿能力,需要有关其运作和研究数据使用的透明性、强有力的保密保护,以及独立检验和重现研究主张的能力。

支持这类举措所需的大规模计算资源、专业人员、数据基础设施和持续投资,不是单一机构力所能及的;需要巨大的领导力,才能把独立模型开发、对商业系统的有保障访问、公共计算基础设施和开放研究资源组合起来完成这项工作。

这里的关键目标不一定是实现对私人公司的完全技术独立,而是保持独立科学研究的能力,并创造出为支持研究共同体而校准的 LLM,而不是那些注定会导致研究共同体逐渐削弱、甚至可能最终消失的 LLM。

在熟练整合日益强大的机器的同时,保持一种智识独立、开放且富有创造性的科学文化,必将成为我们时代决定性的文化挑战。数学提供了一个早期机会,去面对一个可能很快蔓延到各门科学的挑战,它对知识、智识权力和社会具有日益复杂且潜在危险的后果。科学怀疑精神和对所有相关者的公平应当指引我们。

黄金时代的情景是可以实现的。为研究者提供前沿 LLM 的访问、为 LLM 生成的学术成果制定可重现性和披露标准、投入资源去理解和传播 LLM 生成的结果、投入资源研究 LLM 对科学教育和研究训练的影响,以及持续投资于公共治理的 LLM 基础设施,都是我们今天可以采取的具体步骤,能让黄金时代情景成为最可能的结果。

在数学这个具体案例中,我对一个坚实独立的 LLM 基础设施的希望和愿望是:它赋予数学家力量,去系统地追求理论构建或数学化的机会,无论是在数学内部,还是跨越自然科学和社会科学的整个谱系。我认为,那将是一项真正革命性的成就。

与此同时,我认为数学家肩负着重大责任,要让数学作为人类文化中充满活力的一部分延续下去。当前,有太多利益和太多情绪化反应,把人们拉向几乎没有建设性内容的绝对负面结论。我们必须接受这是不确定的时代,且我们并不完全掌控局势。我们必须参与每一个能帮助我们发现新数学的工具。我们必须继续写作、发表、评审、撰写提案。在做所有这些事时,我们必须变得比以往更有野心和好奇心。而且我们必须确保为下一代数学家创造最好的专业标准,让数学保持为人类文化的中心节点。

评论

社区把这场讨论视为对陶哲轩博客转发的一篇谈人工智能与数学未来的文章的反应,气氛偏怀疑但不乏乐观:不少人认为大语言模型只是像计算机一样的新工具,会把数学带进黄金时代;另一批人则担心它会抽走人类的理解、教学与开放共享,把知识、硬件和学术资源推向私有化与集中化。分歧主轴不是人工智能能否解题,而是谁拥有模型、谁还能理解数学,以及数学作为一种人类文化是否会变质。

认为人工智能会把数学带进黄金时代,或至少只是新工具

  • 大语言模型适合收割低垂果实、做暴力搜索与形式化证明,但把结果提炼成可教学的原理仍需人类;擅长指挥并复核大语言模型的数学家会更成功,而不是被取代。(较多人)
  • 人工智能还能打破人名命名、希腊符号等圈内门槛,降低外行进入数学的障碍;数学本身也不会消失,在生物统计、定量分析和冷冻电镜等领域反而更重要。(较多人)
  • 今天很多对人工智能的怀疑,其实和当年数学家怀疑计算机证明一样多余。 > 今天对人工智能介入数学的怀疑,几乎都能套用到当年数学家对计算机的怀疑上;它也会像计算机一样变成必备工具(@GuB-42)

担心人工智能会让人类失去对数学的理解与教学能力

  • 专业数学不只是解题,更是把理解传递给别人;如果人工智能能给出正确结果却不能像人类论文那样“教会”读者,数学就失去了传承功能。(较多人)
  • 真正的危机是人工智能“能解却不能教”:未来若只有机器在海量场景中推进数学,人类从业者会找不到自己的位置和动力。 > 数学的危机在于人工智能能解出答案却不会教人;如果未来只有机器能推着数学走,从业者会失去自己的位置(@ttul)
  • 知识未必消失,只是会重新集中:在高度竞争的“黑暗时代”情景里,仍会有能理解产出的人与最强机构结盟,只是深度理解会像过去一样成为少数人的特权。(少数人)

担心知识、硬件与学术资源被私有化或垄断

  • 前沿大语言模型若由私营公司控制,可能把数学与科学发现变成专利、按用量收费的租赁服务;教材、arXiv、GitHub 被模型吞下后,大学与线下讨论空间可能被掏空。(较多人) > 若教材、arXiv 和 GitHub 都被前沿模型吞下并按次收费,公开讨论与大学空间可能被掏空(@jgord)
  • 人工智能公司可能演变成掌握跨领域专利的私营财团,用内部人工智能造出外界出资却拿不到的技术孤岛,问题不只在数学,而在整个科学。(较多人)
  • 研究者已经开始自我审查:担心管理者或评审把研究计划、申请上传给大语言模型写报告,导致未发表成果泄密;这与科研经费削减、反科学政策和闭关倾向耦合,是系统性风险。(较多人)

认为黄金时代与黑暗时代会并存,取决于制度与社会选择

  • 短期可能出现人工智能收割易做成果的黄金期,随后因无人愿意公开新想法而转入部分黑暗;但两者会依地区、文化和制度并存,而不是单一结局。(少数人)
  • 美国主导圈子可能因害怕被抢先而更加封闭,更开放的实验室会成为坚持开源协作的“烛火”;最终可能像历史上伊斯兰黄金时代与欧洲中世纪并存后走向启蒙一样,再收敛到新平衡。(少数人) > 美国主导的圈子可能因害怕成果被抢而走向部分封闭,而更开放的实验室会成为坚持开源协作的“烛火”(@rzerowan)

认为一旦人工智能能解所有数学题,数学进步本身就会终结

  • 若能找到解决任意数学问题的算法,勾掉问题清单上的任务就等于数学进步的终点;人类仍可学习算术、微积分等已有知识,但不再有“新进展”可追求,社会应把资源转向别处。(少数人) > 一旦找到能解决任意数学问题的算法,数学进步就到头了;人类当然还能学算术、微积分,但不再有新知识可推进(@charcircuit)

反驳“我们需要更多数学家”的论证,认为其自相矛盾或像自我安慰

  • 文章一边把数学称为“人类数学”、强调没有人类理解就不成数学,一边又嘲讽“人类中心视角”,被指自相矛盾;即使不放弃数学,也无法推出“需要更多数学家”,更可能是人工智能取代部分工作、总体需求下降。(少数人)
  • “需要远多于现在的数学家”被讽刺为矫饰:既然模型能无限生成圣经文本,是不是也需要更多祭司来理解它? > “我们需要远多于现在的数学家”听起来像自我安慰:既然圣经能被无限生成,是不是也需要更多祭司来理解它(@sashank_1509)
  • 也有人对数学界缺乏同情,认为该领域过去门槛高、存在智识势利,被人工智能拉下神坛反而让人有些痛快。(少数人)

有价值的补充

  • 现实中几乎没人勾选“不要训练我的数据”;但研究计划或基金申请被管理者、评审上传给大语言模型写报告,已足以泄露未发表成果。
  • 若大语言模型用成千上万行 Lean 代码完成证明,往往暗示背后缺一个人类尚未命名的数学分支;真正的机会是让人去锤打这些冗长解,提炼出新分支。
  • 近期 3blue1brown 与 Stephen Wolfram 也对同一问题表达过偏乐观立场,可对照阅读。