开放人工智能(OpenAI)使用了一个未发布的模型,对纳维-斯托克斯存在与光滑性问题(Navier–Stokes existence and smoothness problem)给出了解答,该问题是自2000年5月24日起悬赏1,000,000美元的七个千禧年大奖难题(Millennium Prize Problems)之一。这一发现却被纽约大学(NYU)数学教授特里斯坦·巴克斯特(Tristan Buckmaster)的舞弊指控蒙上阴影,他曾与就职于安索匹克(Anthropic)的杰出数学家莱文特·阿尔珀格(Levent Alpöge)合作研究相关问题。
正文
OpenAI 用一款未发布模型,给出了 Navier–Stokes 存在性与光滑性问题的解答。这是自 2000 年 5 月 24 日起设有一百万美元奖金的七个「千禧年奖问题」之一,成果相当亮眼。不过,这事被一场「暗箱操作」的指控蒙上了阴影:指控者 Tristan Buckmaster 是 NYU 数学教授,正与在 Anthropic 工作的数学家 Levent Alpöge 合作研究相关问题。
Tristan 提出指控,同时把自己的结果匆匆发布出来;那份说明记载了经过。简短版本是:两人把问题做了将近一年,大量使用 Claude 和 Codex(主要是 GPT-5.6 Sol),8 月 15 日取得突破。此后数学界传言四起;他们听说 OpenAI 已经听说 Anthropic 解决了一个「重大开放问题」,于是主动联系,发现 OpenAI 有一个团队正在做相关问题,思路相近。Tristan 写道:
我问他们,第一条 prompt 是什么时候发出的。OpenAI 拖了一阵没有直接回答,最后承认是在过去几天里发出去的——也就是我们工作的消息传过去之后。
我问模型是否在训练时用过、或能访问我们在 Codex 里的会话;整个项目期间我们的草稿都放在那里。对方的回答是,模型不会去查询用户数据。我再问关于训练的事,没有得到回应。
此后事态更复杂。OpenAI 团队提出可以等 Tristan 先发表,或让 Tristan 基于他们的结果撰写论文,但表明不会邀请 Levent 成为共同作者,因为 OpenAI 与 Anthropic 存在竞争关系。
OpenAI 这样描述自己的工作:
9 月 1 日周二,我们听到传言,说两个千禧年奖问题已被解决。受传言驱动,也受内部模型性能「阶梯式提升」的鼓舞,我们启动了对全部未解决千禧年奖问题以及另外几个高影响力问题的评测。……
智能体于 9 月 5 日周六得出解答,距最初一批智能体启动约 88 小时。Lean 形式化与验证又花了 17 小时,由 GPT-6 Astra 完成。
在所有尝试过的问题上,智能体共发送 490 万条消息,约消耗 3000 亿输出 token;其中解决 Navier–Stokes 问题用了 270 万条消息、约 1300 亿输出 token。
(我们不知道 OpenAI 内部模型的计价方式,但 3000 亿输出 token 若按 GPT-6 Astra 公开 API 价格计算,约需 1500 万美元。)
对 Tristan 和 Levent 的工作,OpenAI 则说:
我们的工作始于 9 月 1 日,当时听到一个传言,后来意识到它与 Anthropic 员工 Levent Alpöge、NYU 教授 Tristan Buckmaster 有关。9 月 6 日全部工作和 Lean 验证结束后,我们根据传言相信他们也有一个 Navier–Stokes 解答,于是联系对方,提出两方同时发表结果,并在联合公告中承认他们的优先权。……
在他们公开发布前,我们(研究人员和智能体)没有任何途径看过他们的工作;我们也没有为了解答问题而访问任何特定用户数据。虽然这种可能性不大,但我们无法排除,他们在使用我们产品时留下的数据经去标识化后,帮助改进了我们的模型。不过,我们的证明有明显差异,甚至在 Euler 情形下所得结论也各不相同(forced vs unforced)。
我对此事的解读是:OpenAI 听说千禧年奖问题已被 LLM 解决,便想借此展示最新模型的实力,而没有多考虑抢先于一个团队发表的观感——那个团队近一年来一直在用 OpenAI 自家模型做这个问题。
这与当下计算机安全领域的状况相呼应。Anil Madhavapeddy 最近指出,现在一条漏洞传言就足以用来找到安全漏洞:只要知道某软件存在未修补缺陷,就可以派出智能体去找。数学领域是否也一样?仅仅知道某问题已有未发表的解法,就可能让人在 LLM 上烧掉数百万美元抢先完成。
这也让我想到自己长期对这套机制的一个不满:AI 实验室说我的数据会「用于改进模型表现」——这到底是什么意思?
以前我最喜欢拿两个假设性问题问这件事:
- 如果我在运行 Codex 时,一把 API key 不小心被吞进上下文,以后别人向模型索要 API key,有多大几率会拿到我这把?(我问过 OpenAI 的人,他们称之为「regurgitation」问题,向我保证会极力防范……但没说明怎么做。)
- 如果我用 ChatGPT 为公司头脑风暴可能的新方向,六个月后一个竞争对手问「某公司下一步会怎么做」,这些信息有多大几率会泄露给它?
如今我最喜欢的新假设则是:
- 如果我用 ChatGPT 帮我解出一个千禧年奖问题的一部分,我的工作有多大几率进入训练数据,让以后的模型先帮别人把它解出来?
评论
社区对 OpenAI 被指借用户对话训练模型以抢先解决千禧年数学问题一事分歧明显,多数人质疑其数据使用与署名排除不当,少数人认为属正常竞争或技术尚不可能。
认为 OpenAI 排除署名与数据挪用是恶劣行径
- 学术界篡改署名不可想象,数学界传统按字母序,要求学者排除合作者纯属商业红牌(高赞)
- 厂商以营销为目的烧钱抢功,且不信任曾竞品工作过的学者,体现文化问题(较多人)
- 不应将机密信息发给 LLM 服务,因为运营者不可信(较多人)
- 社区以玩笑表达数据被吞情绪(少数人): > 你们的所有数据都属于我们!(@kdavis)
认为这只是正常竞争或技术尚无法佐证阴谋
- 奥卡姆剃刀解释:听闻问题将破便投入算力抢先,是前沿实验室理性举动,比阴谋论更可信(较多人) > 听到快被解决就优先分配新模型算力,是最简单合理的解释(@keremk)
- 时间线不支持会话即时入训,更可能是并行发现,官方“无法排除”本是实话(较多人)
- 故事缺失突破如何成为谣言的环节,若仅两人秘密工作则叙事存疑(少数人)
- 原数学家明确未指控,媒体渲染不当(少数人)
- 当前基础设施难将用户会话直接混入训练,技术未达(少数人)
怀疑大模型真正数学推理能力与经济性
- 模型擅长海量数据的问题,但难开创新数学领域,依赖人类既有尝试,不足以替代数学家(较多人) > 若全新领域问题浮现,大模型独自无用,这可能是终极 ASI 测试(@civvv)
- 耗资千万仅夺百万奖金且非自主高效,实用性与性价比受质疑(较多人)
- 模型连开源数学库代码都写不好,解千禧问题遭疑(少数人)
担忧隐私设置晦涩导致数据默认被训练
- 关闭“改进模型”仍可能有其他训练授权,用户难辨数据是否被用(少数人)
- 若保密极重要,建议走云厂商托管版而非直连第一方(少数人)
有价值的补充
- 历史冷知识:二战时英国原认弹道导弹不可能,但知悉德国 V2 发射后,依尺寸轨迹反推得出乙醇与液氧燃料组合,印证“知可行”即破局关键(@dboreham)
- 开发者亲历:分享性能基准给同伴后 12 小时内被复现,说明给予“答案存在”的希望等同给答案,LLM 加剧竞争效应(@bob1029)
- 数学署名规范:该领域长期按字母序视为共同智力劳动,避免首位之争,OpenAI 行为踩踏学界底线(@avs733)