数学与人工智能(AI)咨询小组(Advisory Group on Mathematics and Artificial Intelligence)发布客座文章,宣布该小组正式成立,由普林斯顿高等研究院(Institute for Advanced Study)主办,并设有网站 agmai.org。人工智能(AI)的快速进展给数学研究带来机遇与挑战,我们相信本学科正处于历史性时刻;近期事件也提出紧迫问题:如何支持人类对数学的深度理解的长远前景。该小组将就人工智能公司与数学研究及数学界的互动提供建议。
正文
这是数学与人工智能咨询小组的客座博文,原文以另一种格式写成,经AI转换。
我们借此客座博文宣布,数学与人工智能咨询小组正式成立,驻地设在普林斯顿高等研究院(IAS),线上地址为 agmai.org。
人工智能的快速进展为数学研究带来了机遇,也带来了挑战。我们认为,本学科正处于一个历史性时刻。近期发生的事件提出了紧迫的问题:如何维护人类对数学的深层理解这一长期前景。
宗旨
本小组的宗旨是就人工智能公司与数学研究、数学界的互动向其提供建议,包括如何负责任地展示和发布数学成果。我们力求为数学和数学界的最佳利益行事,并充当数学家与人工智能产业之间的一条沟通渠道。
独立、透明与问责
本小组独立于任何人工智能公司运作,成员不接受报酬。我们将在本网站公布向人工智能公司提出的建议。只要某家公司的模型可能对数学产生重大影响,我们都愿意向其提供建议。我们只提供建议,对任何人工智能公司都没有决策权,各公司所做决定的责任由该公司自身承担。
咨询小组成员
- François Charles(巴黎高等师范学院-巴黎文理研究大学)
- Camillo De Lellis(高等研究院、意大利高等研究院)
- Timothy Gowers(法兰西公学院、剑桥大学)
- Martin Hairer(洛桑联邦理工学院、帝国理工学院)
- Nikhil Srivastava(伯克利、西蒙斯研究所)
- Ulrike Tillmann(牛津大学、牛顿研究所)
- Ravi Vakil(斯坦福大学)
- Edward Witten(高等研究院)
- Melanie Matchett Wood(哈佛大学)
这个小组的成立,缘于OpenAI就设立外部顾问委员会一事接触了部分成员。经与OpenAI达成一致,他们决定创建一个独立小组,并邀请其他人加入。
当前任务
我们当下面对一项非常具体的挑战:就OpenAI如何协调发布大量重要数学成果向其提供建议。据OpenAI报告,这些成果由其内部模型产生。
我们欢迎数学界就此问题提供意见。请尽快通过此表单与我们分享你的想法。你的回复将用于形成我们的建议,未经你同意不会公开。
评论
讨论整体弥漫着对这个顾问组实际作用的不信任:多数人认为这是 OpenAI 借数学家的信誉做危机公关,或至少是学术界一次守门行为;少数人为数学界面对 AI 时的冷静与建设性叫好。分歧的核心在于,把问题、解答和 Lean 证明直接公开就够了,还是必须有人来协调和评估。
认为这是 OpenAI 借数学家的信誉做危机公关
- 被引用最多的是 Burt Totaro 的质疑:OpenAI 正处于舆论低谷,拉一个受人尊敬的小组来缓和形象,而这个小组并无能力改变 OpenAI 的做事方式(高赞) > 如果我认为这件事值得做,这群人确实是最合适的人选,但我立刻就有疑虑:这是在利用这些数学家的信任与声望。(@elffjs)
认为顾问组没有实权,等于是摆设
- 公告自己写明小组不负责为 OpenAI 内部数学研究的推进节奏提供建议,那它管不住下个月再冒出上千个结果(较多人) > 小组不参与把握我们内部数学研究的推进节奏——那它就没什么价值。(@philipwhiuk)
- 成员既无法验证也无法复现那些据说已完成的解答,顾问组在这种情况下究竟能做什么(较多人)
认为真正的做法是把问题、解答和 Lean 证明直接公开
- 除了原始材料,其余动作都被视为学术界的门禁操作,有人称这是学术界的低点(较多人) > 我只想看问题陈述、解答和对应的 Lean 证明,别的都是守门。(@auggierose)
认为数学界在维护自己的守门权力
- 学术圈本就是守门的高手,也是在权力结构变动中最受影响的一方,于是想建立一个自己仍在顶端的新结构(较多人)
- 年轻数学家没有进入讨论,受冲击最直接的人反而缺席,且把 AI 当威胁与把线性代数、梯度下降当威胁一样站不住脚(少数人) > 为什么不去问那些真正受这件事影响的年轻数学家?(@vatsachak)
赞赏数学界面对 AI 时的冷静与建设性
- 这是少数没有滑向两个极端的群体:既没有宣称整个领域已被解决,也没有一味抱怨让 AI 消失,而是评估模型的长短、推演领域走势、提出对 AI 公司的诉求(较多人) > 他们给出的每一份声明都经过深思、谦逊、讲道理,而且非常有人味。(@ipdashc)
认为这种应对只能是短期权宜
- 即便成功把数学从 AI 公司的公关工具箱里拿掉,只要能力继续提升,公告形式也会从轰动性的公司级突破,滑向某个孩子在笔记本上跑 Claude(少数人)
认为代表性成问题
- 名单里没有 Terry Tao,地域分布高度集中于美英法瑞意(较多人) > 法国、美国/意大利、法国/英国、瑞士/英国、美国、英国、美国、美国、美国——国际化程度令人惊叹。(@okasaki)
有价值的补充
- 有人把名单成员的研究方向与千禧年问题逐个关联,得出 Hodge 猜想 5 人、BSD 猜想 3 人、Navier–Stokes 2 人、Yang–Mills 2 人、P vs NP 1 人,黎曼猜想缺席,据此推测未公开的成果可能涉及 Hodge 与 BSD。
- 一条判断标准被提出:当前模型真正缺的是长期规划和从零构建抽象体系的能力,所以「AI 群能否从零搭出一个研究纲领或文库」才是分水岭。
- 希望模型能追踪自己的日志,说明哪些论文和对话是这些数学洞察的触发点,这既关乎署名,也关乎理解模型为何在数学上特别强。
- 这类公告的价值衰减可能比想象中快,从公司发布大新闻到个人随手使用之间,间隔或许很短。