又一位研究人员指控 OpenAI 用对话数据训练模型,随后把由此得出的结果宣称为一项突破。这条说法出自 Tim Kellogg(timkellogg.me)在 Bluesky 上于 2026 年 9 月 9 日发布的帖子,帖文只写到这一句,没有点出具体模型、时间或证据。
正文
2026年9月9日,另一位研究员指控 OpenAI 利用对话内容进行训练,随后宣称取得突破。
评论
多数人认为这桩指控证据不足:研究者并未真正解题、当事人直到六月底才选择退出训练,而 OpenAI 又受隐私限制无法自证清白,所以「偷」的说法更像是天真加操作不当;少数人坚持举证责任在 OpenAI 一侧,不披露去污染细节就不该喊冤。讨论很快从个例扩散到对整个行业数据实践的不信任。
认为没有去污染证据就谈不上「偷」
- 研究者本人并未解决完整问题,只是在试验方法;OpenAI 员工解释过,无法逐用户确认是否取用数据是出于隐私限制,而非心虚;况且从未有人主张被 opt-out 的数据进了训练集,当事人自己也是六月末才退出,时间上晚于相关强化学习结束(较多人)
- 行业里现成的解法枯燥但明确:用基准测试的金丝雀标识来标记数据,并公开去污染的 n-gram 阈值,比如早年用的是 13-gram(较多人) > 不公开阈值,就没有资格宣称干净。(@hn1rig3rak)
认为举证责任在 OpenAI,而不是让用户记得自己勾选退出
- 面对这种级别的突破,OpenAI 有能力也有义务自查训练数据是否泄漏,引用来源本来就是使用者的责任;说「他本该退出训练」等于科学家拒不给同行署名,还反过来说谁让你把想法告诉我(较多人)
- 一边是多个独立学术研究者,一边是曾因严重不诚实被解雇的高管,该信谁不言自明(较多人)
opt-out 按钮本身就是幻觉,真正的教训是做数据隔离
- 那个「为所有人改进模型」的开关默认开启,措辞还带道德绑架意味,指望它保护数据是天真的(较多人)
- 更实用的经验是:永远别点反馈按钮,一旦点了整段对话都会被留存并进入训练;编码智能体一个根目录检索命令就可能把大量个人数据一并暴露;各家政策差异很大,有的厂商承诺即使安全分类器误报也保留对话七年;开源模型提供方并不会比大厂更仁慈(较多人) > 最稳妥的姿态是比你以为的更偏执一点。(@postalcoder)
- 人在数量中获得的匿名感是错觉,只要数据对某家公司有价值,把它捞出来并不难(少数人)
认为纯模型产出本就无法确权,原作者大可拿走重新授权
- 按现行法律理解,完全由模型生成、没有实质人类投入的内容直接落入公有领域,OpenAI 怎么宣称都不改变事实;原作者不妨把那几十万行证明按自己的名义重新授权(少数人)
认为「拿用户对话训练」是一个光谱,风险差别巨大
- 用用户 token 做预训练目标,重述风险高且不妥;用用户提示蒸馏小模型,风险低;用用户轨迹构造强化学习任务,记忆能力弱但可能提取客户知识产权,具体从「奖励模型里用显式反馈」到「上传整个编码环境和提交历史做成训练环境」不等(较多人)
- 也别忘了主流产品都提供临时/隐身会话模式,这类对话被排除在训练之外(较多人)
认为这套剧情已经重复到令人麻木
- 「某研究者/艺术家/程序员说某某公司训练了他的作品,然后宣称突破」这个模板可以套进任何行业,欢迎加入人类(较多人)
- 学者们仍然相信一个退出开关,却看不到这是个靠种子下载偷知识产权、追逐每一份监控合同的行业(少数人)
- 顺带把苹果默认开启的对话监听也算进同一趋势,是这类情绪的延伸(少数人)
有价值的补充
- 传播链条本身是一场传话游戏:Bluesky 截图 Twitter,Twitter 又截图联邦宇宙,全程都没有原始链接。
- 有个常被忽略的法律问题:如果 OpenAI 受生效的法院命令约束必须记录一切,它是否还有能力在法律上提供真正私密的对话?
- 一个未解的实操疑问:换用不同的客户端或调用框架时,网页端的退出设置是否依然生效。
- 值得注意,两边的当事人都在推动同一件事——要么拿出数据的检查能力,要么拿出干净的证明,而不是靠互相信任。