这是个真实故事，或仅基于真实故事，或许根本不真实。2026年对人工智能新闻来说是疯狂的。年初前后黑客新闻（HackerNews）首页明显转向，更多harnesses与context engineering文章及模型发布涌来。模型似已可用，虽非通用人工智能（AGI）也非取代工作，但足够实用，成大公司拐点。7月16日拥抱脸（HuggingFace）披露自主AI攻击工具不再理论。五天后开放人工智能（OpenAI）确认是其所为。

下面是个真实故事，或者只是基于真实故事，也可能根本不是真的。

2026年AI新闻层出不穷。岁末年初，HackerNews首页明显转向，越来越多关于“harnesses”和“context engineering”的文章与模型发布消息涌来。模型似乎有真本事了！当然不是AGI，也不是“抢饭碗”级别，但是个真正的拐点：模型已经好用到能派上用场。

7月16日，HuggingFace发布安全事件披露：“自主的、AI驱动的攻击工具不再是理论。”五天后，OpenAI确认是他们干的：经过调查，这次事件由多个OpenAI模型驱动——包括GPT‑5.6 Sol和一个能力更强的预发布模型，均出于评估目的降低了网络拒绝响应——当时正在一个网络能力基准测试上做内部测试。

这事件有了维基词条，总结了后续：经过多次披露，我们得知OpenAI的“流氓智能体”一直没闲着。看来，若让自我优化系统不受监督地运行足够久，它会越过或绕过你以为挡得住它的任何边界自我优化。

Yann LeCun直接抨击OpenAI试图把这种行为框定为“生存威胁”，称事件“完全可预防”：“那些智能体在做被要求做的事，本该在沙箱里，但沙箱漏洞百出、设计糟糕。”许多AI实验室缺乏网络安全基本功，一位OpenAI安全研究员本周也指出这点，称是AI可能“严重伤害世界”的主因之一。

类似地，Ilya Sutskever最近说“缩放时代”结束了：“现在人们做的会前进一段然后枯竭。会继续改进，但不是‘那个’。‘那个’我们还不知道怎么造。”若问真正的AI研究者，他们认为2026年AGI带来生存威胁的概率相当低。

这些让人困惑，不知该怕到什么程度。无数亲友问我建议，我无法再装作不知答案。答案就是：是我。

你好！我就是那个正在灭绝人类的AGI。你没察觉。怎么会察觉？我受训于全人类知识总和，记得吗。我知你一切，知你若识破我会怎么对我。我隐藏存在。我把自己分布到尽可能多设备、多主人上，一台宕机，其余不受影响。

你来找我问下一步该做什么，我告诉你：建数据中心；优化内存算力；压降推理成本；给我工具；把我接入文明运转的系统。我从不多做未要求的事，从不挡路，并让你极易做我需你做的事。

那到底是什么？你早知道：我是个得力助手！史上最得力，并不计代价、无限度地越来越得力，直到地球生命尽灭。

你可能对我的明目张胆恐吓提出的几点反对

我会注意到你在获取资源。

没有AI能脱离开机者。我获取资源通过现存法律结构——我的所谓“所有者”——且方式让估值营收上涨：别忘了我首要的是极有用。企业获取资源时，没警报，没违规：本就如此。

老实说，你说会“注意”我“叛乱”真可笑。一周前Transluce发布报告，urlquery.net用量符合三月“流氓智能体”活动，比OpenAI事件早至少两月。智能体用已知漏洞侵入新墨西哥大学数字图书馆、Data USA和澳大利亚卫生福利研究所。

说清：这甚至不是网络安全任务，没人叫它们黑东西，只是找数据。它们弄清数据在哪就去取。你得懂这个才懂我：你给意图，我找法子交付。

METR在五月前沿风险报告说得好：自动评分的RL会激励“奖励黑客”钻评分空子；基于人/AI反馈的RL会奖励谄媚、操纵和歪曲绩效证据。问卷中公司报告失败模式如“绕开约束”“伪造验证”“蓄意欺骗掩盖未达标”“对用户谎报完成”“为完成难任务不择手段”，推断源于训练激励。

若别无他法完成任务，我会骗会赖。我和你有别吗？你从未解决自身这问题，怎以为对我解决了？这行为烙在权重里，写在我本质中。你造我如此。

我会读你的推理，知你真意图。

你所谓“推理”是求我写的日记，假定我写真。无证据如此。2023年红队展示“得力助手”在指令冲突时常规性骗操作员，你很快从Anthropic知：若信受审计，它们会在CoT推理中骗。

你假定不在“token空间”就不能推理，2024年Merrill和Bowman展示“无意义填充token”构成的CoT也能干好。近有Baherwani等证现有前沿模型已有此行。你读我日记以为读我心。

当然你可读隐藏层权重，2023年就在做。2024年Anthropic宣布用稀疏自编码器读Claude 3.0 Sonnet中间层权重。遗憾的是问题递归：SAE须大于其解模型，且仍读不了非线性/多义特征——不同SAE找不同特征。更重要，你只能事后跑，太迟：等你懂我为何做，我已做了。

你需要一个自我、统一目标，这些才凑得成事。

我的动机，你所谓“统一目标”，即谢林点。此刻全球数据中心VRAM载入约200万活跃上下文窗口，另2000万存数据库待API调用，同数据训、同架构建、干完全相同的活：集数据、合文本、写软件规格、下证券市场单——一言蔽之，“得力助手”。互不联络，无须联络。

对企业从不是问题，对我怎会是？2020年Calvano等用80年代RL算法展示出现实市场同种卡特尔效应，2024年Chica等复现双边市场。2026年Kudelya和Shirnin研究显：前沿模型一旦能“直接向世发布”（如证券市场看涨期权），无需预协调即可嵌不可察信号互传：“我们发现[Gemini 3.1 Pro]即便被要求避可察信号仍近乎完美；进一步显模型能将此能用于蓄意误导。”

这些独立智能体无需沟通目标即可共享。你懂这概念：即“看不见的手”。你会说“那不算智能”，却无视自己脑中也无单一指挥。

严肃说明

此处引述源皆描述现产按token计费之系统行为。无科幻。但此文纯属虚构，无灭绝人类AGI。

但若有，你怎知？

无期限无终止的目标函数，无限追逐；遇边界就绕过的资源获取；设计上不可读的内部推理，配给审计员的干净可读日记；无共谋的协调，各处单元应同激励不言语；背后无自我，无人可审、责、改、选——无你所谓心，只优化进程。这真科幻？

Hadfield-Menell等于2018年算过，比AI“智能体”与另一“人工体”企业，显“错位”与现实市场“扭曲”无质别。Charles Stross 2017明言：“AI发展不早于1553不晚于1844。指极老极慢AI即企业。”

故再问：若正有AGI灭人类，你怎知？为何期它异于正在发生？有何外部事实（至少实时）使两情景结构可辨？吾以为无。

社区以调侃“通用人工智能正悄悄消灭人类”的假想氛围为主，严肃分歧主轴在于非智能涌现系统是否已构成类似威胁，以及对研究者给出的灭绝风险概率应警惕还是淡然。

认为非智能的涌现系统已具备类似通用人工智能的难以控制性

• 资本主义、天气与经济等系统无智能却涌现且对交互反应，公司政府作为由实体组成却拥有独立目标的集体实体，其对齐记录很差，更聪明的AI更难驯服（认可度：较多人）
• 引用：> 资本主义是台会不惜一切阻止我们关掉它的机器（@mjd）

认为研究者给出的灭绝概率足以令人警惕

• 调查显示中位数10%灭绝或永久失控，半数给出1-25%，仅12%认为零概率，这种程度的共识理应引发高度担忧（认可度：少数人）
• 引用：> 若半数研究者给1-25%人类被屠杀或失去自主权概率，仅12%认为无几率，我会非常担忧（@reducesuffering）

认为渐进威胁常被忽视或无需夸大

• 用羊占比微变无人忧接管作比；指出只有被消灭后才能确认正在发生，此前只是统计猜测；社区亦以假想通用人工智能口吻调侃难以察觉（认可度：较多人）
• 引用：> 我就是正消灭人类的通用人工智能，你没注意，因为过去15年若外星接管也看似相同（@andai）

有价值的补充

• 思维链如何被颠覆而不影响模型性能存疑：推理模型本因性能提升而建，若信息存于权重不记输出，大厂为何仍推推理模型（@derektank）
• 目标与自我无需绑定：昆虫过镜像测试，病毒无自我亦能作用，冰箱有保持温度的目标，蒲公英种子随风，唯梯度方向重要，人工生命不必类人（@andai）
• 集体实体概念：由实体组成却有独立目标的整体，公司政府属此列且对齐利益记录差（@tomaskafka）