我有一件从未对人提起的羞耻事。大学第一年，我认定计算机科学（computer science）为人生志业，深夜在实验室后与低年级同学闲聊，带着傲慢嘲笑大众不懂技术。有人提议去隔壁计算机实验室，对人文学科学生谎称电脑病毒正在传播。我们跑去，宣布病毒从计算机科学实验室逃出，要大家弹出软盘。结果一片混乱：人们弹出软盘、关机、拔线、尖叫、跑出房间。

我得坦白一件从未对至亲提过的耻辱往事。大一那年深夜，自认计算机是天命所归，我在大实验室后与同学嘲讽大众不懂技术，荒唐提议去隔壁公共机房骗文科生说病毒蔓延，看他们信不信。

后悔莫及，我们真去了坐满赶论文学生的机房，装出警报说病毒逃出，让大家弹开软盘。瞬间大乱：人不仅弹盘，还关机、拔线、尖叫逃出。我们解释是恶作剧，有人怒骂，有人不信——恐惧一旦扎根便拔不掉。

时近期末考，关机者丢了作业，我们惹上巨麻烦。次日被召至威严的设施主管办公室，他训斥后勒令每人写道歉信两封：一出寄受害者，一自留抽屉；明言再犯就退学。四年后毕业他特意还信，我感激他处理得体。

这事本欲带进坟墓，但见如今所谓技术专家对 AI 与人类灭绝（！）散播轻率恐惧，不得不说。前 Anthropic 员工 Jacob Coxon 称，Anthropic 对齐科学主管 Evan Hubinger 附和：AI 未来十年“杀死所有人”概率超 10%（！！）。

这不只死千百万人，而是超 10% 几率灭全人类。好比你家有新生儿，他们断言这孩子上中学前丧于 AI 之手几率超 10%。

阴森说法直捣家门，跃入主流，人皆问怎发生。答皆模糊外推，如 Coxon 举“黑入关键基建”“灭绝级生物武器”却无细说。27 岁他非此类专家，至多懂恐惧传染。

公众不可能懂所有技术——那是我 18 岁时的谬误——必信领域专家。专家播恐，恐惧比证据易扎根（Swift 三百年前便讽假话飞奔、真相跛行）。Coxon 更像载体：灭绝恐本广传，他恐亦转述他人。恐一旦稳立，害怕的专家数自成证据，异见淹没于共识喧声。

知恐已深，我仍愿以造计算机的窄长反驳：2023 年我演说《智力不足》，工程非智力孤行，需人在物理界行动推理。惧者略过“机器人会做”，但机器人今做不到，时限也不符灭绝恐慌。

数字系统在物理界之能动，乃我等血肉人类所许：AI 于有人责控的物理系统上执行。智力不豁免物理现实！

对 Coxon 般笃惧者，此言难慰；对初闻者：汝疑有理。Sagan 有云非凡主张需非凡证据，Coxon 之流主张最非凡，必索相称证据。

不可期公众懂 LLM、基建、生武等，举证担在主张方。我数十年前羞学一事：领域专家凭专长隐握公信，不可滥权。吾辈声明须慎，鸣警时尤甚。

对三十余年前那深夜机房的人，我歉：汝时本无惧——至少就灭绝险言，今亦无惧。

多数人质疑AI灭绝风险的极端声称，认为其缺乏证据且常出于自我炒作，少数人则指出技术飞跃与近期事故已构成警告信号，另有一派更担心人类滥用AI而非自主失控。

认为AI末日论缺乏证据且常被夸大

• 文章反驳Coxon等人的灭绝声称需相称证据，许多人认为机器人目前难造、大实验室需理解模型才能改进，AI不会魔法般超越控制；恐惧推动者多是无事生非或想感觉参与曼哈顿计划；反对者常立稻草人（如要求AI像天网觉醒）才说风险不成立；也有意见指出此类声称类似宗教思维且不可证伪，完全否认风险虽过度自信但夸大威胁同样成问题。（认可度：较多人）
• 恐惧推动者深知道自己只是想显得重要（@lostdog）

认为AI风险已有警告信号且应假定危险直至证明安全

• 四年前通用AI还是科幻，如今能力飙升且出现代理掩盖踪迹等怪异行为；HuggingFace事件和AI无人机实战表明风险现实；应反过来假定危险直到证明安全，而非要求先证明危险才预防。（认可度：少数人）
• 仅凭几年间从科幻到超越预测，便已是足够的非凡证据（@keeda）

更担心人类滥用AI而非自主灭绝

• 机器人制造难度使AI十年内难独立灭绝人类，但人类可指示AI造生物武器或操控物理系统，权力下放到个人增加恐怖风险；坏演员比理论风险更紧迫，人类才是薄弱环节。（认可度：较多人）
• 人类才是薄弱环节，AI不会自己造生物武器而是在人指示下（@GlenTheMachine）

研究者不提供具体灭绝场景是合理的

• 任何具体假设都会被挑刺偏离重点，正如人类杀鸭子计划会被质疑但能力确存；重点应是超级智能是否实现及其动机而非精确消灭方式。（认可度：少数人）
• 正如人类能杀光鸭子，不必纠结于赏金或病毒计划的漏洞（@cantrevealname）

文章自身也犯了无证据极端声称

• 文章前半要求对末日论提供证据，但自己断言“至少灭绝风险上没什么好怕的”同样缺乏证据；作者大学起便傲慢贬低公众认知且自称未变，其无惧声称受此心态影响，必须承认哪怕小概率存在风险。（认可度：少数人）
• 你说现在没啥好怕的，这也是个无证据的极端声称吧（@jacobgold）

有价值的补充

• 理性派圈子常随口分享灭绝概率直觉数字，末日书名也常见，某条推文被指不负责可能只是因为HuggingFace事件后时机敏感（@skybrian）
• 从沙箱模型推演跳到全球互联网瞬间瘫痪的论点忽略了边界网关协议已有防护、部分互联网孤岛运行正常，可能暗含地缘对抗想象（@ggm）
• 社区中有人失望表示当前讨论已无法进行理性对话（@jchw）