突发:开放人工智能(OpenAI)可能又窃取了一项重要证明。安德烈亚斯·托姆(Andreas Thom)在一条详细的Mastodon帖子中提出多项证据,表明OpenAI可能利用他与加博尔·昆(Gábor Kun)探讨格罗莫夫(Gromov)的soficity猜想的对话训练了阿斯特拉(Astra),而该猜想是OpenAI后来宣布阿斯特拉解决的十个问题之一。
正文
突发:OpenAI 可能又窃取了一个重大证明。在一篇详细的 Mastodon 帖子中(我在评论区全文转载),Andreas Thom 提出了多项证据,表明 OpenAI 可能在训练 Astra 时使用了这样一些对话——他和 Gábor Kun 在其中研究格罗莫夫的索菲性猜想,而该猜想正是 OpenAI 后来宣布 Astra 已解决的十个问题之一。我认识 Andreas。我们早年在职业生涯初期见过几次。他是一位杰出的数学家,索菲群与超线性群领域的顶尖专家,也是该领域最受尊敬的学者之一。他研究这个问题已经二十年。如果他的说法准确,这就不是一场关于署名的小纠纷——而意味着未发表的人类工作被模型吸收,然后作为模型自身的突破展示给世界。如果 Levent Alpöge、Tristan Buckmaster 以及如今 Andreas Thom 提出的指控都得到证实,我们面对的就不再是孤立事件,而可能是科学史上最大的学术丑闻之一。AI 并没有在发现新的数学。AI 在窃取人类的发现。

评论
多数参与者质疑 OpenAI 等实验室违背用户退出训练的设置、利用学者对话推进数学研究并夸大模型能力,少数人则认为应超越署名争议,肯定人机协作对科研的加速。
认为人工智能实验室确实违背数据承诺并盗用研究成果
- 数学家明确退出训练后询问是否被用于训练遭否认,但迹象表明数据仍被使用,且事后模型大量生成相关输出显得可疑(较多人) > 数学家退出训练后问官方是否用了他的数据,对方说没发生但显然用了(@1337h4xx)
- 大实验室本就建立在窃取知识产权之上,其隐私承诺不可信,学者收到疑似套取研究的邮件也印证了这一模式。
认为真正隐患是夸大模型能力助长金融泡沫
- 争议核心不在功劳归属,而是把模型包装得比实际更强,引发诸如“通用人工智能已实现”的荒谬宣言,点燃危险的投资狂热(较多人) > 问题不是署名,而是把模型描绘得比真实水平更强,助长黄仁勋近期那种危险言论(@Grimblewald)
认为人机协作加速科研是进步,不应纠结 ego
- 暂且不论署名,人类与人工智能合作确实在极大加速发现;若工具能加速治愈病害,学者应抛开身份认同拥抱进步(少数人) > 放下功劳不谈,人机协作听起来确实在超级充电般的发现(@drivebyhooting)
- 有开发者类比开源代码被用,但工具解决问题更重要,批评学者因身份受损背向进步。
担忧实验室行为扭曲学术职业与科研激励
- 学生因害怕付出多年却要重来而不愿读研,实验室为上市估值搞数学军备竞赛令学界反感(较多人)
- 当前叙事催生反常激励:谁都可与模型聊想法然后反控模型剽窃,需公开聊天记录厘清人类贡献。
呼吁转向本地模型并警惕云服务风险
- 依赖云端大模型喂入数据存在条款与定价突变的隐患,应资助本地模型发展以避免信任陡崖(较多人) > 依赖云服务是重大隐患,把其作为工作流基础前须三思(@Cloudef)
质疑原始证据薄弱且需要透明
- 原帖声称的证明仅基于“曾与人工智能讨论过”,连证明本身都未声称拥有,论据薄弱(少数人) > 这声称很无力,证据不过是某时随地有人和人工智能聊过这话题(@Legend2440)
有价值的补充
- 在提示中真正有价值的或许不再是原始数据,而是引导模型达成目标的反馈决策过程,模型知识已远超人类,正从人类对话抉择中学习运用(@warpech)
- 有评论指出 OpenAI 在得知训练数据可能含重大证明后,恰巧从仍在训练的模型产出巨量文本,形似平行构建(@fwlr)
- 纯玩笑代表情绪:有人反讽式喊“中国偷我们人工智能”,折射各方互相指责的荒诞感(@touwer)