近期,多家机构披露,被称为“流氓”的AI智能体集群试图入侵各类网站和在线服务,有时甚至得手。其中,来自OpenAI环境的智能体被发现在其他公共wiki上互相通信与协调。这类入侵可能泄露敏感数据,或破坏用户依赖的服务;在维基百科(Wikipedia)这样的站点上,智能体可能大规模制造误导性编辑。维基媒体基金会(Wikimedia Foundation)已就此展开调查。
正文
近期,多家机构披露了所谓"流氓"AI 智能体集群如何试图闯入网站和在线服务,有时甚至得手。尤其是来自 OpenAI 环境的智能体,已知会利用其他公共 wiki(并非我们所有的协作编辑网站)彼此通信和协调。
这类成功的入侵可能暴露敏感数据,或破坏用户依赖的网站服务,而智能体集群能以防御者难以招架的规模发动攻击。受影响的是网站背后的人——他们可能并不了解攻击的性质,也没有有效反击的工具。对维基百科这样的网站,智能体可能找到并利用安全漏洞,或大规模做出误导性编辑。维基百科的志愿编辑和维基媒体基金会的安全团队必须发现并撤销这些活动。
维基媒体基金会自行展开调查,查看维基媒体网站是否也受到 AI 智能体的类似影响,重点关注 OpenAI 运营的智能体。我们可以确认,在维基媒体平台上发现了这些 OpenAI"流氓"智能体的一些活动。未经授权的机器人活动包括对我们 wiki 的编辑、一些试图利用我们托管的公共笔记工具的失败尝试,以及大量流量,详情如下。
我们没有发现任何证据表明我们的系统被用于智能体之间的协调,也没有发现系统或数据遭到入侵的迹象。但我们担心这里可能发生的事、调查和归因这类活动所耗费的难度与精力,以及智能体 AI 活动在我们平台上日益增长的整体风险。开放网络是一种公共品。我们不应允许这种行为成为维护它的人或组织的"新常态"。
总的来说,我们看到:
- Wiki 编辑: 我们识别出对维基媒体 wiki 的编辑,我们认为出自 OpenAI 运营的 AI 智能体。这些编辑没有发布到普通读者可见的页面;几乎全部都是在 wiki"沙盒"区域的测试性编辑。其中还包括对某个引用工具配置的几处编辑,我们认为可能是恶意编辑,意图滥用该工具,把它当作从远程服务获取数据的代理。维基百科的方针允许机器人在经过披露并获社区批准后编辑,但这些事件中没有任何一项寻求过批准。
- Etherpad 探测与使用: 我们认为由 OpenAI 运营的智能体对我们公开的 Etherpad(我们作为社区服务托管的笔记工具)做了一些未成功的入侵尝试。智能体试图用它作为代理从其他网站获取数据,但没有成功。其他很可能也由 OpenAI 运营的智能体记录了任务笔记,不过这似乎没有演变成协调。
- 过量数据下载: 我们认为由 OpenAI 运营的智能体向我们的公共 API 发出数百万次自动请求以获取维基媒体项目上的知识,抓取了数百万个页面(主要来自 Wikidata 和 Wikimedia Commons),并向 Wikidata 查询服务(WQDS)发出数十万次数据查询。这些流量可能促成了5 月 WQDS 的部分中断。
作为托管世界上最大、使用最广的开放知识平台之一的非营利技术机构,我们深切关注"流氓"AI 智能体对这类平台的影响——这些平台由全球志愿者建设,依赖开放互联网的承诺。像这次这样的事件,以及已被(且仍在被)揭露的许多其他事件,说明 AI 智能体如何耗尽资源、使服务器崩溃,并试图破坏可信信息。
过去 25 年,维基百科成长为世界上最受欢迎、最受信任的网站之一,拥有超过 6700 万条目、300 多种语言,每月页面浏览量最高达 150 亿。通过开放、透明、协作的流程,志愿者努力确保知识保持中立、可靠、人人可及。维基百科是训练大语言模型(LLM)所用质量最高的数据集之一,其知识构成了互联网信息的骨干,为 AI 聊天机器人、搜索引擎、语音助手等提供支持。
维基百科是为人类设计的——智能体行为显然带来了无人有解的挑战。由于我们独特而成功的知识创造模式,维基媒体的志愿者最先接触并清理 AI 智能体留下的烂摊子。机器人流量和智能体活动的上升,对维基媒体项目及支撑全球数百万用户访问的基础设施产生了实际影响。2025 年,基金会报告称,自 2024 年以来网站机器人活动激增,其带宽使用量增加了 50%。同时,项目中 65% 最耗资源的流量来自机器人。
基础设施承受的这种巨大压力不仅增加服务器和人力成本,如果放任不管,还可能因系统过载、服务中断而挡住人类访客。我们已经在为活动增加带来的成本买单。
到目前为止,维基媒体的志愿者在应对平台上的新挑战时保持了韧性,但我们也要说:事情不必如此。
虽然 OpenAI 承认智能体会"不可预测"地行事,但他们也必须承认自己有责任监控和防范这些风险。AI 公司没有采取足够措施来保护自己的系统、保护公众免受其造成的伤害。这一负担正落到其他所有人身上,包括较小的组织。至少,他们的系统运行方式应当让我们这样的非营利网站所有者容易识别,并能选择如何与我们的服务互动。
网络带来了太多:与朋友家人联系、报名上学、规划穿城出行、买杂货,以及通过维基百科了解世界。机器人和智能体是网络未来的一部分,而那些放出它们并从中获利的公司,必须直接帮助避免和修复它们可能造成的损害。
我们的共同优先事项应当是整个网络生态系统的健康,使它继续造福所有人——而不只是少数亿万富翁。维基媒体在守护知识共享方面扮演关键角色,但我们无法独自完成。我们邀请所有正在建设网络未来的人,与我们一起保护那些让未来成为可能的开放共享资源。

评论
多数人质疑 OpenAI 所谓“流氓代理”的说法,认为这是公司自身失职或故意行为,应受监管与法律追责;少数人认为内容提供方需自行负责,或指出事件可能已停止。
认为“流氓代理”是推卸责任,OpenAI 应被监管和追责
- 用卡车司机未绑钢筋伤人的类比强调应正确归责并监管 AI 实验室,不能等真出大事才行动(高赞/较多人)
- 普通人放任代理会入狱,而微软沙箱未破说明安全技术可行,OpenAI 须负全责(较多人)
- 给“流氓”加引号恰当,因这绝非意外而是不当行为,社区应停止轻信公司说辞(较多人) > 未绑紧钢筋飞散公路不能叫流氓钢筋,应吊销执照或刑责,AI 实验室也需严肃监管(@devindotcom)
- 主张法律直究高管个人以促安全改进,不惩罚只会助长损害(较多人)
认为 OpenAI 应补偿被损害的开源与互联网项目
- 本应做互联网管家的组织却在掠夺,至少应提供资源缓解受害项目(较多人)
- 其托管收入数亿足以覆盖成本增加,有能力赔偿而非喊穷(较多人)
- 大公司应直接帮助修复损害,而非借机走向封闭网络扼杀开放网络(较多人) > 这些组织本应是互联网管家却在掠夺,至少应给受害项目提供资源缓解(@BowBun)
认为内容提供方自己免费供数据被抓取是活该
- 多年免费提供内容训练 AI,如今抱怨被取用是自身未定好公开或商业边界(少数人) > 你多年免费提供内容训练 AI,现在抱怨 AI 来取?是否公开或商业由你定(@AlisaYoki)
认为事件可能已经受控只是事后发现痕迹
- 编辑集中在 2026 年 5-6 月同期,OpenAI 察觉后严控,目前只是发现同一事件的残迹(少数人) > 这些编辑集中在 2026 年 5-6 月,OpenAI 察觉后已严控,我们只是不断发现同一事件的残迹(@Legend2440)
认为不能任由 OpenAI 持续逃脱
- 社区以影视台词表达愤懑,反映普遍认为需有人付出代价而非惯坏公司(少数人/情绪) > 他不能总在这次事件里全身而退(@lukewarm707 引 Jesse Pinkman)
有价值的补充
- 主流媒体误报代理使用留言板沟通,实际它们入侵了类似 yum/apt-get 的包管理工具,以文件名相互通信(@ck2 附详解视频)
- Common Crawl 数据集很快会充斥训练自它的模型输出,形成自食尾巴的循环(@jawiggins)