我作为25位初始签署人(均为菲尔兹奖得主(Fields Medallists))之一,签署了下方声明,该声明源于过去一周的讨论,已发布于网页并如莱顿宣言般邀请更多签署。过去几个月大语言模型(LLMs)数学能力剧增,已能解决多领域重大数学问题,但人工智能公司将其作为基准的做法损害数学科学及数学界,双方目标严重错配。
正文
我是25位初始签署人之一,我们皆为菲尔兹奖得主,共同签署了下述声明。该声明源于上周的讨论,已发布于专门网页并邀请更多签名。虽未及像以往那样充分磋商,但形势紧迫需尽快表态。《经济学人》近期文章也谈及此声明。
近几个月,大语言模型的数学能力突飞猛进,已能攻克诸多领域的重大悬疑问题。然而,AI公司将解题作为标杆来推进,这种做法不利于数学这门科学和数学共同体。AI公司的目标与数学界的目标严重错位,这也可视为影响其他科学、创意行业乃至全社会的大型对齐问题的一部分。
研究数学旨在理解形状、数字和自然现象的基本结构。经过代代积累,数学建立起庞大的思想、方法与抽象工具体系,现代科技正是建立在这些数学工具之上。
著名难题常如灯塔,标示着对数学疆域理解的提升。解决难题意味着产生新洞见与方法,经由演讲、讨论、简化的漫长过程,最终凝练成可供研究生甚至本科生学习的教科书内容。有些数学思想在数百年后成为大众理解使用的工具。
数学界在某种意义上像是人类的缩影,由秉持不同方法但共享核心价值的个人组成。我们最珍贵的资源是学生与思想,都悉心培育,期待它们在数学世界自主生长。我们为学生设题以训练研究技能,通过演讲、讨论和严谨写作传播思想,连接前人成果。这一切需要时间,基于人际互动。
近来AI解决数学难题的成功甚至登上非数学圈的头条。但解题只是实现概念理解与洞见这一首要目标的手段。在AI浪潮中忘记这点,会让工具背离初衷。飞速量产“真假”陈述,只会摧毁滋生新思想的沃土。
这些解法常仓促公布,无暇细致撰写、提炼新方法、援引前人工作,引发严重的署名与剽窃质疑。若没有数学家自愿对其加工并融入数学正典,AI产生的思想永远不会真正鲜活,数学家之间关键的人际传承链也将断裂。
我们正见证对智力劳动的整体威胁,AI使用结果与其初衷错位。传统上多年训练不仅产出答案,更培养理解与提出新问题的能力。而AI基于人类既往成果直接生成结果,使目标不再一致。数学界面临的困境与其他科学创意行业相似,也预示全人类可能遇到的问题:当AI改变工作形态,如何确保不遗忘工作本初目标。
AI有潜力增强并加速真正的数学研究与理解。数学职业需以多种方式适应。但这些变化最终造福还是摧毁该领域,很大程度上取决于掌控新技术的人的抉择。
数学界、技术开发公司以及更广泛的社会,都亟需紧急应对这些问题。联名签署者为陶哲轩等25位菲尔兹奖得主。
评论
社区对 AI 进军数学研究的讨论呈现分歧,多数人担忧其剥夺人类解题旅程或被神化为吓退新人的超级大脑,少数人则调侃五年内全面取代数学家。
认为 AI 直接给出解答让人失去了攀登与探索的过程
- 将 AI 直接解决难题类比为空投到珠峰顶,省略了逐步推导的“旅程”,导致所得理解浮于表面,与亲身攀登获得的洞察不可同日而语。(认可度:少数人) > 亲自攀登珠峰之巅所见之景,与被从空中空投而下所见截然不同(@metanoia_)
担忧 AI 被神化为无人能及的超级大脑从而吓退未来科学家
- AI 已实质性改变科研方式且能力持续增长,关键分歧在于它会成为科学家的利器,还是被包装成人类无法竞争的集体智慧,使年轻人不敢入行。(认可度:较多人) > AI 究竟会成为科学家手中最佳工具,还是被吹捧成人类无法匹敌的超级大脑集体吓得新一代不敢入行,尚难定论(@road61)
认为 AI 将迅速包揽数学工作只需担心失业
- 按当前增速,AI 五年内便能处理全部数学问题,除了被彻底取代,数学家没什么可忧虑的;有开发者附和称业内早已预见此趋势。(认可度:少数人) > 照这速度 AI 五年内便会包揽所有数学,数学家此刻除被取代外还有什么可担心(@againstapples)
有价值的补充
- 波德莱尔曾讥讽摄影是失败画家的避难所,仅能机械记录而无法如绘画般重塑现实,且批判公众狂热削弱艺术;这与陶哲轩批评 AI 在数学中的角色形成巧妙的历史映照(@david-gpu)