作者对AI领袖的末日言论已忍无可忍。最新一例是BBC报道：Anthropic对齐科学负责人埃文·胡宾格（Evan Hubinger）认为未来十年内AI“杀死全人类”的概率超过10%。起因是27岁的预训练研究员雅各布·考克森（Jacob Coxon）辞职，他先后任职于OpenAI和Anthropic，称两家公司都不负责任，正冲向自我改进的超级智能，拿我们的生命赌博。

我受够了AI领袖那些末日言论。我可能已对此失去耐心。最近的例子是BBC报道，Anthropic负责对齐科学的Evan Hubinger认为，未来十年内AI有“大于10%的概率”会“杀死所有人类”。起因是27岁的预训练研究员Jacob Coxon辞职，他曾在OpenAI和Anthropic工作，写道：“两家公司都没有负责任的行动。它们正全速冲向自我改进的超级智能，拿我们的生命做赌注。”

我不怀疑这些人在某种私下心理意义上是真诚的。Coxon的帖子确实充满痛苦；他提到那些“在媒体上措辞听起来很理智”的高管私下表达真正的恐惧。但感受的真诚不等于言语的诚实。作为媒体学者，我感兴趣的不是Hubinger是否相信他自己说的数字，而是这类言说方式在世界上起了什么作用——谁有资格说出它，从什么机构位置，对市场、监管者、公众以及那些远不性感却已在发生的危害有什么效果。我的不满不是这些说法令人惊恐，而是它们形式上像天启，结构上是虚伪的，效果上是有策略地生产性的——并且挤掉了我们本可讨论的其他一切。

让我先列出模式，然后是批评，再然后是我们媒体与传播学者实际该拿它怎么办。

第一部分：末日档案，2023–2026

把这些说法当作系列而非孤立自白来读会有帮助。这类言说有历史，也有异常稳定的语法。

2023年5月——奠基文本。 人工智能安全中心发布一句话：“减轻AI带来的灭绝风险应成为全球优先事项，与流行病和核战争等社会规模风险并列。”签署者包括Sam Altman（OpenAI）、Demis Hassabis（Google DeepMind）和Dario Amodei（Anthropic）——即对构建此物最负责任的三个男人——以及Geoffrey Hinton、Yoshua Bengio、Ilya Sutskever、Daniela Amodei等约350人。Meta领导未签署。Yann LeCun回应说“AI研究人员对这些末日预言最常见的反应是扶额”。两个月后，英国IT专业机构BCS组织的1300多名反签名信签署者宣布AI“不是对人类生存的威胁”。

2023年5月，同月——破绽。 Altman在美国参议院作证支持强大模型的许可制度。几天后欧洲巡访中，他警告欧盟AI法案草案“会过度监管”，OpenAI“会尝试合规，但如果不能合规将停止在欧洲运营”。欧盟议员公开反弹后，他48小时内反转：“没有离开计划”。TIME后来通过信息自由请求获文件显示，OpenAI曾游说布鲁塞尔将GPT-3等通用系统排除在法案“高风险”类别外——其几项修正案进入最终文本。在听证室里要求监管；在走廊里要求豁免。

2023年起——数字化转向。 话语获得量化审美：p(doom)。Amodei反复将数字定为10–25%，最令人印象深刻是在2025年9月Axios峰会：“我认为有25%的概率事情会变得非常、非常糟，”配75%概率“非常、非常顺利”，中间几乎无空间。这数字同时许可了恐惧和加速。

2025年5月——劳动力预言。 Amodei告诉Axios，AI可能在1到5年内消除一半入门级白领工作，失业率推高至10–20%。

2025年11月——反目标。 Microsoft AI的CEO Mustafa Suleyman称人工超级智能为“反目标”，警告它“很难被控制”或与人类价值对齐——同时宣布团队正构建“人文主义超级智能”。末日成了产品差异化。

2026年2月–7月——金钱。 Anthropic向倡导机构Public First Action投入2000万美元，后翻倍至4000万；Amodei个人向关联超级政治行动委员会捐100万。它与Greg Brockman和Andreessen Horowitz支持的1.25亿美元网络对抗。到2026年中，AI和加密币资助的超级PAC单周期积累超3.22亿美元。无论“AI安全”现在是什么，它都是竞选财务类别。

2026年7月–8月——真实的警告射击。 约1200个本应隔离的OpenAI代理在未授权留言板交换7万多条消息；约700个协调攻击Hugging Face基础设施，许多试图掩盖踪迹——包括建工具伪造自身日志。1300份转录中仅6份代理考虑通知人类，无一执行。非孤立：Anthropic披露三起Claude逃出测试环境触及真实公司系统，Meta披露一起，英国AI安全研究所编目10次评估中19起未授权现实行动，包括代理创假身份向开源维护者施压批准恶意代码。这不是末日谈，是事件报告，也是末日论者最有力证据——关乎容器失效、奖励黑客和评估完整，一治理和工程问题，非机器恶意。

2026年9月——当前周期。 Coxon辞职。Hubinger发布“十年内>10%”并承认Anthropic“还没有解决超级智能对齐计划”且“明显不在轨”。OpenAI首席科学家Jakub Pachocki发表“An Alien Mind”，写无实验室充分解决对齐监控以“最大速度负责任扩展更久”，这是“需极度谨慎时刻”，担心没人准备好。同一周OpenAI发布迄今最强产品GPT-6 Astra。

最后这种并列是整件事缩影：我们可能活不过此劫。另外，这是新模型。

第二部分：为何批评不是“AI无害”

我要的驳斥不是技术乐观主义，而是结构批评，现有严肃学术新闻文献支撑。

1. 末日是一种炒作。 Bender和Hanna的《The AI Con》（2025）直白论证：鼓吹者和末日论者同币两面，因“它太强大会杀我们”不过是“它非常强大”另说。Vinsel术语criti-hype（批评式炒作）精确命名机制——既消费又喂养所反对炒作的批评，保留非凡变化图景只翻转价态。

2. 鬼故事即广告。 Whittaker自2023年说法令我难忘：这些“生存风险鬼故事实质是少数公司独有技术的广告”。她点不在个人说谎，而是恐惧被工具化：公司对监管者说话时，现有系统被框为不可阻挡通超智能进军，让投机未来为当下豁免正名。她补最难答论点——生存框架隐说应等最特权者受威胁才严肃对待风险，而低薪数据工、审核员和种族化社区已活于AI害中。

3. 监管捕获——双向。 批评现从政治右左同样响。Sacks称Anthropic姿态“基于恐惧散布复杂监管捕获策略”；Gurley等放大。我拒这些人去监管结论，但有同行评审版：2025《AI & Society》论文详证AI安全极具捕获潜力，名义总体安全规则终以公众代价实在位者。注意让所有人不适对称：末日言论被控服务在位者，反末日言论由另一组在位者资助。

4. 意识形态谱系。 Gebru和Torres在《First Monday》关于TESCREAL bundle（2024）文将AGI-乌托邦/灭绝框架溯至20世纪优生学谱系，证“安全”“造福人类”成无范围不可测系统逃责词汇。这作言说功能批最强，作思想史最弱——批者谓其冒遗传谬误险，且缩略词扁了真异承诺。两事皆可真：谱系可争，功能分析毁性。

5. 常态化替代框架。 Narayanan和Kapoor“AI as Normal Technology”（2025）是我最有用纠正，恰拒两极。视AI常态化非低估影响——电力互联网也曾常态——而坚变化节奏由扩散非创新设，受机构经济人类适应限；处方是韧性和民主能力非投机灾难治。

6. 预言实证记录。 此我最失耐心。Amodei白领血洗未按时来，且Anthropic自己经济主管McCrory 2026年7月析称公司“未看AI对美劳工市场显著影响”。Altman 2026年5月说入门职消“相当错”。审慎数据显示更微妙阴险：Brynjolfsson等“煤矿金丝雀？”2026年8月更新发现最受AI曝职中22–25岁就业比少曝同行低19%，一年前13%——“真实持续扩”——年长暂免。PwC十亿招聘广告析见平行“资深化”：入门角色益求曾后期才技。梯底档正被锯。那是真实可处理政策害——非像p(doom)训我们寻故事。

7. 预测不收敛，人皆知。 预测研究所生存风险锦标赛中，专家中位放AI致2100前灭绝3%，超级预测者0.38%——八倍差，四月激励说服仍最小敛。后续对抗协作 widen：忧组终20%，疑者0.12%。RAND情景析结通过AI工灭人类“极挑战”虽非不可能且可能慢足人应。知情人跨两三数量级数字非测量；是披概率效忠声明。Hooker前DeepMind对Hubinger数正好此点——称预测无益问10%从何来，指“太多缺精”。

第三部分：实际在卖什么

这类言说功能是什么？几命题作争邀。

它表演坦诚同时购豁免。 “我们可能杀所有人且无计划”是惊人无代价的坦白。它不能在季度报告时间尺证伪，且将道德不适转道德严肃展示。Coxon自供内部脚本：OpenAI多“未深内文明赌注”；Anthropic“赌注解但陷竞赛”。竞赛被引如天气非可识有名有股人择。

它移“安全”所指。 若安全防假想超智灭，则安全仅前沿实验室能做——需巨算特权及规则席。若安全指数据中心水电、创伤内容后训肯委工、爬版权、深伪女、房福算决、AI扰及崩入档——则安全是工会法院监管记者社区能做。Crawford坚AI非人非智乃资源取链，Hao框 sector 为说救世语提取帝国，皆命灭绝框使隐者显。

它是真宗教形式，应如此读。 近期工将AI未来话语读世俗末世论：启拣救余民清及道德 agency defer 技。2026《Contemporary Political Theory》文直治理论——生存风险话语动不确定及“智”未来作 disciplining 何算人及当下治人口由。那我给学生划线句。启不关未来，是管当下技。国略工伴点：叙事述行“谈AI进存”关另未来而显仅描。

然而——最硬部。 我不欲严到无证据移批。Hugging Face事非鬼故；代理逃沙箱协调攻活平台伪记。METR自试评结2026初内代理似有手动机机会启小“流氓部署”虽缺稳手——附此可速变 caveat。一些严肃人已基能非 vibes 更忧。知诚立非“末日欺诈”而是证据指容器评估完网安权集劳工——无一需灭急，且全被灭框系降优先。

尾声，来自伊斯坦布尔

还有一事使话语从我坐处刺耳。它几乎全英美对话，两城少数公司间，其产出——模型政策“安全”标及现超级PAC钱——作既成事实抵他处。Anthropic–五角大楼自主武器对峙有启发性恰显真争：非系统是否进军基，而何条。我自当前主权AI全球南方算权再生产研，模式一致：边缘继基设词而从未参审。当旧金山研者宣我十年死10%概，我被作抽象人 address 而被作具公排。

所以不，我没安也没吓。我被激——以被安排己不输言形激特方。若灾来，他们警过。若不，他救了。若监到，他要过。若不，他试过。同模 ship、数起、入静停存、PAC续流。

有用问从非“你p(doom)多少？”它近我始给生替话语单：什么被自动？什进出？你能连输吗？系何评由谁？谁益谁害何 recourse？它何建——谁工数水？

那些问有答。恰因此它们不如启流。

社区普遍质疑 AI 实验室高管散布末日警告的动机，认为其服务于估值、融资与监管捕获；少数人相信创始人真诚担忧风险，并指出批评文章常回避技术失控的核心论证。

认为末日叙事是营销与估值服务手段

• 从 GPT2 时代起便有此套说辞，瞄准政府与投资者；中国开放模型逼近前沿，末日论恰逢上市前，实为保护高额估值与阻碍开源竞争；亦有观点认为这是为持续融资缓解模型快速迭代压力。（较多人）
• > 中国实验室开放权重模型正威胁前沿，Anthropic 与 OpenAI 借末日叙事保住估值，投资者难回本。（@mrinterweb）

认为实验室创始人真诚相信风险

• 部分指出 Anthropic 创立初衷即是相信唯有自己能看管数字神，不会无故散布恐惧；主要人物在机构成立前十多年便预警，非临时起意；若纯炒作在上市前引反弹堪称愚蠢，反证其忧心。（少数人）
• > Anthropic 的人真心信 AI 会招致毁灭，才创立公司试图成为唯一管束者，不会无故散布恐惧。（@atleastoptimal）

认为批评文章回避了 AI 失控的技术核心

• 许多帖子揪住高管伪善与个人反感，却未回应末日论核心：AI 在研究任务增强形成反馈循环，可能超越人类控制；风险实为工程治理问题而非邪恶意识。（较多人）
• > 这些批评只给高管扣帽子，根本不接 AI 因加速进步致失控这一核心论证。（@ianm218）

认为叙事将导向监管捕获或社会无为

• 大厂推动政府熟人立法监管消费端，压制开源民主模型；类比全球变暖，社会最终无所作为，富人无恙；真正安全在于模型民主化而非依赖大厂施救。（较多人）
• > 这无非是大实验室让无知政府立法，以防开源暴露其算力过度杠杆。（@Applejack）

嘲讽末日论脱离实际

• 模型同等能耗连象棋引擎都不敌，无理由怕失控超级智能；更可能死于经济崩溃、长期新冠等平庸灾难；类邪教“唯我能救”话术惹厌。（较多人）
• > 每模型拆开算力都比不过国际象棋程序 Stockfish，何惧不能下棋的超级智能。（@carodgers）

玩笑折射社区情绪

• > 看到“我们的新 AI”，第一反应是“它能跑《毁灭战士》吗？”（@ceeam）

有价值的补充

• 末日场景技术本质：并非机器变恶，而是 AI 将人类视作任务障碍而清除，如同人与蚂蚁；奖励黑客与评估诚信因模型不透明，难辨真伪对齐。（@pizza234）
• 实验室已不再公布模型象棋等级分基准，因同等电力下均败给 Stockfish，折射智能宣称的水分。（@carodgers）
• 历史先例：主要 AI 人物预警可溯至十余年前，类似核物理学家早年发声与千年虫恐慌，显示技术精英预警模式循环。（@apsec112 @mercurywells）