最近对人工智能安全与世界末日的担忧或源自辞职信。2026年9月8日,研究员雅各布·科克森(Jacob Coxon)从安思罗皮克(Anthropic)辞职,他此前三年在开放人工智能(OpenAI)与安思罗皮克做预训练。信称研发者真诚相信本十年末人工智能或灭绝人类,非营销。他离职前两月放弃股权,帖子一日浏览超一亿。同事未反驳,埃文·胡宾格(Evan Hubinger)数小时内认同,称个人十年内风险超十分之一。
正文
如果你最近才开始担心人工智能安全和世界末日,大概是因为一封辞职信。
2026年9月8日,研究员雅各布·考克森(Jacob Coxon)离开了美国两大前沿AI实验室之一、向来刻意塑造“谨慎”形象的Anthropic。此前三年他在OpenAI和Anthropic做预训练研究,也就是让大模型变强的基础工作。他的告别信写道:“研发AI的人真心相信,AI可能在这个十年结束前杀死我们所有人。这不是营销噱头。”他在股权兑现前两个月离职,放弃了原本将到手的股权。这封信一天内浏览量过亿。
他的同事出人意料地没有急于反驳。Anthropic对齐科学负责人埃文·胡宾格(Evan Hubinger)几小时内发帖称考克森说得对,他们确实真心相信AI能杀光人类,他个人给出的十年内概率超过十分之一。二十多名国会议员表示必须有所行动。正在自建前沿实验室的埃隆·马斯克称整件事是心理战,主流媒体则不出所料地对此进行了狂热的报道。
要现实地评估这警告的分量,得先了解发出警告的人。喊末日最响的声音来自一个约有二十五年历史的网络亚文化群体,他们自认比谁都想得清楚。在硅谷外这群体像个冷门怪咖书迷会,在业内却绝非如此。他们的写手能捧红或毁掉他人声誉,其成员充斥着那些定义“AI安全”的实验室、安全机构和慈善组织。他们的争论、婚姻、恩怨和性偏好,与如今要求公众信任其掌管人类未来的组织深深交织。
考克森辞职前十个月,即2025年12月,近五百人聚在伯克利一个音乐厅,参加一场关于人类可能灭绝的仪式。现场有乐队和二十八人合唱团,还有礼拜式诵读。歌曲和演讲将房间从人类遥远的过去引向不确定的未来,吊灯逐一暗下。在场者多为试图研发或遏制AI的机构员工。最黑暗时刻,组织者在舞台边声音哽咽地说:“各位……我觉得我们熬不过去了。”
组织者是雷蒙德·阿诺德(Raymond Arnold),网页开发者、游戏设计师、音乐人,长期构建理性主义者社区机制。他在天主教和无神论间长大,年轻时接触理性主义运动,称其“极大扩展”了他感知神圣的能力。2011年他邀十九个朋友进纽约一处公寓,点起油灯、等离子球和光剑,为新世界观试运行节日。他们唱着远古营火与塑造人类未来的技术,吹灭最后一支蜡烛,在黑暗中静坐。两年后阿诺德把实验变成公开演出《比今天更明亮》(Brighter Than Today),版本从纽约和湾区扩散到北美、欧洲等地。
阿诺德起初想把世俗至日节(Secular Solstice)办成宽泛的人道主义节日,结果它成了理性主义日历的主宴日,这并非完全偶然。他自2011年组织社区,如今协助运营LessWrong和作为实体中心的伯克利会议园区Lighthaven,并认真自称为“村中祭司”。至日节是他为持久运动构建文化技术的尝试:一套歌曲诵读经典、从光明入黑暗再回归的仪式递进,以及散居信徒每年同聚一室的契机。
到2025年,阿诺德估计AI灾难概率超过五成,担心自己的仪式已无法健康地正视灭绝。他把至日节制作大体交予他人,但回来塑造了可能是“最后一个至日节”,还安排了火坑边的后续关怀。那个夜晚提供了宗教传统的一切:团契、仪式、关于人类宇宙位置的共同叙事,以及一个能让你坐着直面“自己可能很快死去、且可能死在朋友造物手上”的地方。
顺着那房间的社交网往外走,会踏入一片怪异之地:用哈利波特同人小说当招募管道;前参与者称具强制性的心理工作坊;某AI机构推广培育更聪明儿童的项目;爱达荷州性工作者成了亚文化最高阅读量写手,正与马斯克前女友格莱姆斯(Grimes)运营AI末日宣传驻留项目;逃到拖船上的分裂教派与六起死亡有关;主张废除民主的博主赢得亿万富翁资助,其想法在副总统办公室结出果实。
我知道,如果你没像我这么泡网,上面这段听起来有多疯。但每一点都有大量信源记载。故事里的人不是晚餐密谋的秘密社团,而是一个社交场:交叠的友群、资助关系、性与恋爱关系,全部穿插在那些请你信任其AI监管能力的机构中。
主流媒体难以严肃报道这些荒诞事,但我们的新法西斯、神权反乌托邦和末日预言确实深植于该亚文化历史。
于是,让我们回到两千零零年。
先知
我们从埃利泽·尤德考斯基(Eliezer Yudkowsky)说起,早在当代AI公司出现前他就对自己历史地位深信不疑。
尤德考斯基生于1979年,成长于现代正统犹太家庭。据他自己说,二年级时因发现数学老师不懂对数便否定了整个公立教育。九岁读费曼的《QED》并称大都看懂。他认为在校十年是浪费,八年级左右辍学。无高中学历,无大学,在AI领域无任何正规训练。
十一岁叔祖父给他《大芒果鸡与超人条件》(1990年低温人体冷冻等怪人录),他称此后明白何为重要,事业必触及之。少年时在线找到超人类主义者。2000年二十岁的他联合创立人工智能奇点研究所,网站已提供全套:奇点散文、编码超人AI草图、通向未来的计划及自传。
他的自传以寓言开头:幼时把最爱的玩具水枪扔下三楼阳台,也不愿母亲借出他的东西,听到落地声感到完满。他自称人类物种技术转型专家、少数有资格引导者之一,并认同《吸血鬼猎人巴菲》中那个看清危险、不得不行动的角色。
此后二十五年他的技术理念大变,但“唯我预见AI末日”的感觉没变。
奇点研究所后更名机器智能研究所(MIRI)。其创始担忧如今看来很前瞻:足够强的AI可能追求与人类生存不兼容的目标,任务是在变强前使其安全。2025年他与执行主任内特·索亚雷斯(Nate Soares)合写的AI灭世书登上《纽约时报》畅销榜。
2000年代末他启动第二项工程:教人思考。在共享博客Overcoming Bias上的大量写作成了“序列”(Sequences)文集。2009年LessWrong作为社区大本营上线,研究所称其为成功招募渠道。
吸引力在于:它统一解释了人为何乱争、信安慰谎、拖延、把社交赞同当真理;并给出方案:觉察偏见、修正信念、做得更好。若你聪明、不满、惯被说多问,这邀请极具说服力和归属感。
看谁被这邀请精准命中:社区自身调查暴露了。LessWrong普查显示87%男性,近五分之一有自闭诊断或自诊,近半抑郁;相关社区Slate Star Codex调查数千人,超半数搞编程、工程、数学或物理。素描出的传记一致:八岁被视为天才、比谁都聪明,社交挫败后独对电脑,成年后早熟、社交误读、从未遇理解自己的人。硅谷天然吸引他们,理性主义让他们找到意义和社群。
运动给这类人归属与持续肯定:同类才智同伴、令社会清晰可解的哲学,以及最醉人的晋升——你非厌世(是群众跑歪了固件),非傲慢(确是救种英雄)。这像完善的天才班:特训、练习册(序列、HPMOR)、年终仪典、信你的成人。加入以你为主角的宗教后,主角综合症便不再是缺点。
陷阱在于:围绕“克服非理性”组织的社区,把成员身份当已克服的证明。“理性主义者”成了优越判断力的凭证,而此凭证是社区主要社交货币。
根据哈利波特写的福音
2010年尤德考斯基开始连载《哈利波特与理性方法》(HPMOR),同人长篇中哈利是 confrontation 魔法的新锐科学理性主义者。连载五年极受欢迎。序列太干,HPMOR成轻松入口,且照镜般抓住目标受众:十一岁哈利就是他们自画像——被认为天赋异禀、永远正确、周围皆劣。
小说最重要概念是“英雄责任”:无论发生什么,若灾难发生终是你责,因你本可防。不能躲在守规或“别人会管”后。故事里最接近正常人的赫敏反对说这剥夺他人能动性,故事从未满意回答。
人气远超小众预期。2015圆周率日完结时达122章661,619词,长于《战争与和平》。主站三万七千余评、数万收藏、同人有声书、庞大Tropes页、多语译本(俄文最盛)。华邮法律博主称其为千禧年最爱书之一。正经媒体无视,因不读同人;但一代未来工程师读了。
真正功能在结尾显现。终章《期末考试》哈利困局,作者设条件期限:读者若2015年3月3日前贴出可行解则续写,否则更短更悲。粉丝两天半投超七十万字方案,自组任务组去重, shipped 的解决出自群众。这实为组织演练:AI安全所创始人招募数千分布式志愿者,派优化题、设期限威胁坏结果、收割输出入书。成了。读者不只读方法,更按需大规模实操。这句话也描述了此后十年AI业,或许非巧合。
故事外,尤德考斯基建运动明确。作者注推应用理性中心(CFAR)筹款;2015终章时数十城办庆祝派对。小说、筹款、培训、国际社区绑一起。VICE 2015年已注意到这装置渐似信仰体系。
称其为圣书过誉,但叫娱乐则误其功能:它供共享语汇、典范角色、聪明人对世界所欠责任的戏剧理论,把同意论点转为认同使命。一如贺伯特从科幻作家到邪教头,尤德考斯基走了相似路。
部分理性主义者刻意建仪式。2011年纽约至日记录有改编序列的共唱诵读礼拜,尤德考斯基赞许。多年后阿诺德公开写当自己给AI灾变超五成概率时如何办至日节。
运动拒神仍生经文创礼、与末日紧密私人关系。世俗化未消除宗教本能,只改崇拜对象。
尤德考斯基的使徒
尤德考斯基是难处的先知,真正增长引擎是更讨喜的精神科医生博主斯科特·亚历山大(Scott Alexander)。
他非成名后闯入者,自述浸淫Overcoming Bias和LessWrong多年,觉材料启示性。2013年开博Slate Star Codex直接源于此。工具完全不同:尤德考斯基专断,亚历山大幽默、迂回、共情、认真纳异见。写医药统计科幻人性,读者含山姆·奥特曼、保罗·格雷厄姆和大量硅谷白领。纽时称其博客为科技界安全空间。
亚历山大是诠释者。你不必从灭绝预言或哈利波特入教,可因抗抑郁趣文而来,发现论证异常严谨、成员异常聪明,日后才知严谨在指向何方,慢慢融入。
也可通过柯蒂斯·亚文(Curtis Yarvin)进来。
亚文以“门修斯·孟德伯格”笔名2007开博《无保留储备》。表面程序员长政论,实则暗黑:权威远右奠基知分子,且句法完整成战略资产。
2008年明言纲领:“清算民主、宪法与法治”。新秩序灭媒体、拆大学、私校化、强制劳工设施;同文辩护自卖及卖子为奴合法。
《拼凑》系列想未来主权地如企业。居民不治,唯退出(顾客带走业务)。把权力共享政治题转顾客服务题(东家产品够好否)。若预期自为东家则极便利,理性主义智识傲慢正把他们归为预期优绩统治阶级。
种族主义涂饰下直白。在《为何非白人民族主义者》中赞美国文艺复兴等,认白人怨气严肃,结论其弱在策略非世界观;偏好穷愚侍富智的层级。对白人民族主义仅留恋人民主权不满,即嫌它不够激进。
亚文非外人,开博前就在社区论坛发帖,2011年LessWrong年调查问成员受否影响。其文社区疯传。亚历山大被屡推,2013年写《巨型坚果壳里的反动哲学》以友好声译其观,后续《反反动FAQ》诚攻其史论。但认真待之助其合法化。2014年邮件(后公开)更表同情“人类生物多样性”(种族科学委婉语)并欲传播有价值部分。
“人类生物多样性”非无害差异观察,特指黑白智商差多遗传。这用语让迷恋种族层级成智勇、异议成从众。调查硬题与建“正人怕认你答案”身份有别:贬斥变确认,愈拒愈勇。摩门派青年传教两年挨门拒恰成纽带,令信己为选民。理性主义者未发明此机括,却善加利用传谬见。
被禁的洞见
此前故事多在网端与伯克利。经瑞典哲人尼克·博斯特罗姆(Nick Bostrom)跨入牛津正经界。他出自90年代超人类主义,1998合创世界超人协会,2005获牛津末日研究所(FHI),职员含同圈安德斯·桑德伯格。2014《超级智能》把尤德考斯基自2001博文转分析哲学语体,《纽约客》称给边缘思想强加学术严谨,书含尤氏主张。博斯特罗姆今坐MIRI顾问席。盖茨、霍金 endorse。斯基普创始人塔林(Tallinn)合创生命未来所、剑桥存在风险中心并自掏腰包,马斯克2015年1月投千万美元入FLI研究。
博斯特罗姆也有种族争议:1996年邮件给超人列表,称黑人不如白人聪并带种族贬称。2023道歉,牛津查认非种族主义者且诚。但《卫报》指其未撤回种族智力论及优生辩。FHI 2024关,但已合法化领域。真问题不在他心是否偏狭,而在存在风险学术翼孵于此类常谈圈,档案现世时机构已固。
博斯特罗姆倡有限优生。2013年MIRI推其与卡尔·舒尔曼(Carl Shulman)胚胎认知增强筛选文。舒尔曼系MIRI研究员等多职。公告谈跨模拟代际胚胎迭选,明系智力增益与AI安全前景。MIRI与FHI将AI救世与选育融合:智力是关键资源、技术赛紧迫、繁殖成优化下一站。
提议关父母选择与生殖技术非强制绝育,但“择未来人特质”改良人类有纳粹、日本实验暗黑史。不平等、残障、社会压、谁定“优”显被漠视。
调试人类
应用理性中心(CFAR)2012伯克利创,四人皆社区出身:播客主朱莉娅·加莱夫、今AI安全研究者安德鲁·克里奇、迈克尔·史密斯、安娜·萨拉萨尔。直出LessWrong,解运动需面基练之渴,CFAR即面基加盟。序列免费理论,CFAR卖退修:伯克利周末工坊以“目标因式分解”“双拐点”等技由与作者同住群屋的教员授。
家族运营:与MIRI共享资助城市职员。管道两端外联:一端Facebook、蒂尔奖学金企业课,一端天才青少年工坊夏校。塔林奖爱沙尼亚生赴CFAR。纽约时报杂志记者访而略叹服微悚。
卖点实思维决策训,听无害,除非忆及练习场:雇主、同僚、室友、爱人及信己定人类存亡者之间。
2021年总裁萨拉萨尔承认至少三员工被实质逼受“调试”(社区术语:心理干预),认对自身判断过从、损参与者自我认知。此系领导自述非外控。前一年她诚写理性与存在风险可毁人睡眠、关系、生趣、道德与自我信任。
后果严重。机制:信错AI能灭世则焦虑合理;但职场社交圈把犹豫当待调心理缺,惧成组织工具。你不肯多献生命于使命,便成使命有权修的“问题”。公社成员负英雄责去“修”异见者。
后继 Leverage Research 由青年哲人杰夫·安德斯创,图彻底解心,早期文献妄答一切哲学。资助含蒂尔、塔林。劳伦森调查揭涉组织资源职权隐蔽恋情。
野心引社区注:社会败因心理惑,小队解心则转一切;自由研此为文明召唤。
但职场剧毒。前参与者佐伊·库尔茨述安德斯理论侵扰升级至信精神害;前资深成员凯思琳辩野心而述自损。两文歧见多,但突显:领袖宣称深解雇员心,而雇、住、友、志皆过组织时,何可发生?
另例最直接证虐与社区失应:布伦特·迪尔(Brent Dill)过理性社交与CFAR,聚“黑莲”组,宇宙观借桌游《法师》:现实可塑、某些人见深层。奥齐·布伦南报揭“见深层者”获周遭权。
2018内部评迪尔显CFAR容操纵:认害行却视其非常干预与责任感为贵材,以“异士艰长”框架解。2019公开道歉更糟:认可信指控他身心性虐两前伴,认予合法、应不足、仍允帮高中项目。
讽刺:CFAR产品即佳判,却基保安失能。详具信念检视工具,未对虐男成妥应,因工社交织。
此即理性主义称邪教最强基:魅权、心理侵、依赖、护内共存处。非谓读LessWrong皆邪教,但思想震中伤参与者。
红迪“离社帖”成类,维基认“后理性者”离潮谓类邪教。知名者如lcamtuf、凯西·奥尼尔访谈述逃教。当恤其伤者是曾充干事者,问题不再“邪教”公平否,而在何以此圈频出自用该词。
理性主义竟产暴力极端者:2010年代齐兹·拉索塔(Ziz LaSota)现湾区分场。纸面系梦 recruiter:计学学位、NASA习、读LessWrong与同人、试海上居(帆船拖船)。她跨女,聚者多同;CFAR员描其池“聪、类自闭、极脆弱孤立跨女”。趣闻:她自认西斯徒,着黑披风。
神学全取社区零件:决策论永不屈黑邮 evil;心理说脑两半球异 agent 性别对齐、单脑半球睡(刻意眠剥)越狱心。2018一成员自杀匿名归此睡法;拉索塔对萨拉萨尔指死证术有效。加绝对素、众生运、英雄责,成“双我或一恶、亲责救众生”。CFAR觉异:萨拉萨尔阻其入 fellowship 被否,怪行后全禁。2019拉与三徒面具袍抗CFAR退修,误911招警特警,社区匿名帖铸名“齐兹派”,首度宗教分裂。
继而尸现。拉索塔2022假死船难。11月瓦列霍八十房东林德被蒙面刀剑袭五十创盲一眼;林拔枪射两攻者杀博尔哈尼安(2019 CFAR抗被捕)。二攻者以殴致死受谋控。六周后宾州扎伊科夫妇被杀;2026年6月女(齐兹关联、购佛州枪)受控。2025年1月17林德预期作证被刺死门外;控22数据师,其向尤德考斯基传陈述。三日后佛州91洲际路检成枪战,杀边境探马兰德(2014来首)、鲍克霍尔特(德奥数medalist量交,2019入此界)。车搜战术装、铝箔裹两手机防追踪。生还者(先开火)受控,政求死刑。拉月后马里兰乡拘,无保。
纽时波士顿报比曼森家,萨拉萨尔自谓齐兹系似末日邪教。然看其用件:LessWrong决策论禁屈恶、心理分我调试、伦理众生为算、英雄责归己。社区辩谓损人误读善念,然观此树果足疑。
床笫与街头的纠缠
不对性生评判,但硅谷理性主义动态最佳显于性实践成团规。
多角恋早于AI新闻可见。亚历山大述其蔓,引2014调约15%认多角,然多聚湾群屋。社区小、集伯克利数群屋,人人皆同僚资助房东室友 ex。恋网即职网。故非谁睡谁,而是能否说不而不失全盘世界。
以艾拉(Aella)一人窥此文化。1992生爱达荷,三女长,父名布道家电台主,基要派 homeschool 除一季公高(因无监电脑退)。十七离家务厂时薪十刀,2012厂无班转 cam,成OnlyFans顶创,后伴游,自学统计做最大性工作者行为调查。2015约LessWrong人入理性主义。
evangelist 女成此圈祭司近体。性文获巨粉。
著名“生日群交”如仪式:数周筛、申请、教义合规客单、事后流程图病毒传。含教义测:“有效加速主义”派因AI风险观被剔。连淫乱都有AI治立场。此强化控制:信对或得与圈内星睡。据称数创始者互认错愕。小世界。
艾拉工业量收证词做调。2026更直入尤德考斯基祭司层:创“别杀我们”(Plz Don't Kill Us)伯克利驻留,付创作者产病毒AI末日内容,格莱姆斯为导师。父电台布道,女布AI末日,家业叛而存。
导师格莱姆斯系马斯克前伴、三孩母。马斯克xAI并SpaceX,其Grok成业界非自愿性深伪机,被估每小时数千图“脱衣”真人;自号曾为两幼女性化图道歉;英、布鲁塞尔、法、马、加皆查。2026年7月诉明州禁脱衣法(言自由),9月法官拒停。亦被另一孩母圣克莱尔诉Grok图。
趣家斗:末日学院导师与业界最劣者同户,且户正诉保持侵害。此界 p(doom) 乃家业。
仅直向半图。圈内谣称同场 gay 平行景同屋派对,且更健。难证,但CFAR及附组、房市、约会池近似一体。
职叠更甚:纽约客绘顶圈恋网:AI预测者卡佳·格雷丝与前男保罗·克里斯蒂亚诺(OpenAI对齐领)合创AI Impacts,后约亚历山大。克里斯蒂亚诺友前恋卡尔诺夫斯基(Open Philanthropy投数亿AI安全),卡娶Anthropic总裁丹妮拉·阿莫代。未必错,然AI安全关切如此缠结业界巨头,堪忧。
《时代》查有效利他(EA)界(理性慈善孪生,下节)揭骚扰、强制控、亲缘职压。故重问:此界人能否拒性、拒心理干预、报不当、退关系而不同时危职与全社会?
跟着钱走
怪亚文化何成AI国策基?非公辩胜,乃资产负债表。需看其与别源运动汇。
有效利他(EA)起彼得·辛格溺童思想:见童浅塘溺必涉救虽污衣;距不消责,捐小钱救不见童道德无差。EA转法:捐相当比、量每元救命改命最多者投。
理性与EA 2009结兄弟但源异。理性出伯克利LW尤德考斯基(含AI论与长HP同人授理);EA出牛津哲。博斯特罗姆所托比·奥德创“尽所能捐”;麦克阿斯吉尔创“八万小时”职择最优善。2011合中心。纸面正经慈善非网络亚文化支。
两运分神话名号实未分。EA史述2000末利他、理性、未来圈汇,湾理性者频现创年。
教义亦合:EA量善(蚊帐、驱虫、GiveWell卡尔诺夫斯基评);后“长存主义”翼称未来人命主导算术,则防灭最重,而理性自2000有尤氏AI灭虑经牛津正名。AI末日成EA旗舰。末世论与捐赠金结至今。
人事叠:上节Leverage 2013创EA Global旗舰会首办自屋。塔林无差别资两界。《时代》查“EA及邻圈”实一景两标。
钱续入:Open Philanthropy 2017报约四千万刀先进AI险赠(含三千万OpenAI)。博文忧成职权。问小博主何影AI政框?答:少数富捐者资之,余几乎无。
运动铸诈:山姆·班克曼-弗里德(SBF)非偶遇,乃EA产物(哲指华尔街致富捐)。富后成最名EA巨资源,却窃FTX客款,今判25年。FTX曾投五亿刀Anthropic,诈款暂坐安全实验室股表。
英雄责独见再现。教训:救世意非 scrutiny 弱替。
蒂尔最政要 patron。MIRI列蒂尔基金史捐超160万。蒂尔资亚文技司Tlon:救世投者亦资胜白人至上之新反动博主。《华邮》报亚文想借蒂尔影响入特朗普二任政府削支。
蒂尔政见:2009文“自由民主不相容”,含妇权福利为自由结构患。如亚文,认恶果出于容众参。
联手后亚文供“大教堂”论(大媒文官为自由信再生产敌阵待拆非待劝)。权富愤文官者视此完美:亿翁可自扮迫异见者。《纽约客》载蒂尔2014邮件忧关联危,显极端当时可辨,无人误亚文良伴。
尤德考斯基伯克利末日宗,蒂尔近崇耶教 Antichrist 讲。斯坦福受吉拉德摹仿欲论(人互仿欲,史趋末日崖),蒂尔称最深影投脸书首外。
2025蒂尔基督末日显:非发文登台,而旧金山“使徒17集”私 Seminar 讲 Antichrist(源2023贺圣灵早午餐220客不知其信)。录音漏,《华邮》审,伯克利鉴真教授证(因美最富男讲此似疯)。自由派作家长听七小时报仍自由派。2026年3月罗马讲,司铎 publicly 止。
内容自利:Antichrist 非暴君科技怪,乃“频警存在险求强监创新界”者,点名通贝里与尤德考斯基为军团。金监非政歧乃 Antichrist 世政架,监技者逆神。中插促马斯克退捐誓两千亿不流盖茨左非营利。最效共和捐者、监司主席、副总统 patron 对技客讲:Antichrist 先锋系瑞典气候客与HP同人作者(其资二十年者)。讲座即政纲。
讲前蒂尔九年暗战媒。2007 Gawker 硅谷博客短标“彼得·蒂尔全同”,他未出柜 prefer。称 Valleywag 硅谷基地组织。不公开吵,潜付律师团约千万资他诉,未披。 Hogan 性带案赔1.4亿 Gawker 2016关。福布揭蒂尔认“特定威慑”慈善。其留律师哈德后代表 Trump 等。藉亚文大教堂剧本,蒂尔教未来总统法律费压异己,特朗普广用之。
神学周边资:蒂尔主席 Palantir 监商入丹军警情及美移民;Anduril 自主边防获 Founders Fund 史上最大10亿刀(2025需自主边塔唯其能满足疑定制);Clearview 脸识早背;增强运动会(允兴奋剂)达苏瓦(Gawker 战律)蒂尔领资。
Pronomos 创城资 Próspera 洪都拉斯法战、Praxis 网国筹超5亿(安德里森奥特曼助),创始人2019觊格陵兰,2024特朗普胜周发“购格”。特朗普谈购岛不排除兵,Praxis 转推“按计划”;美驻哥本哈根使霍里(PayPal 友蒂尔旧识)。2025年3月万斯赴皮图菲克称丹未保格安。亚文《拼凑》主企业治土退为唯途,非博文:蒂尔多年图实,美政便逼购。
通往政府的路
入联邦政府载体即万斯(JD Vance)。曾职蒂尔 Mithril。蒂尔投1500万超PAC助其2022参院,史最大单捐之一。万斯明影响源:2021访称特朗普归应裁大批文官,法院阻则行政抗(引杰克逊“马歇尔判了让他执行”),自认受亚文影响。
亚文非原创反行政国,但供更 radical 框:独立机构非低效乃敌教治器,拆乃“更新”前题。今共和党内 endemic。故攻大学法院文官可售为反贪非集权:机构抗领袖力即罪。
人更深:克拉齐奥斯(Thiel Capital)掌科技政策办,2026年3白宫命与萨克斯共主科技顾委,成员含安德森。诸人 doctrine 异但同网,网证蒂尔 Rolodex 通联邦任管道。
小桥亦在:劳伦森溯治理刊《钯》于 Leverage 内蒂维贝内特,校友布尔亚绕之:心理 cult 与反民主体知界同人。无需协调,关系假定声誉随人移即网。
尤德考斯基信徒中的异见
蒂尔因监政见与尤德考斯基决裂,歧见猛。
尤氏主停先进AI甚至军强制;安德森《技术乐观宣言》点存在险与EA为敌,其风投今坐总统科技委;万斯2025巴黎AI演讲警欧勿过监;蒂尔列尤氏为 Antichrist 军团。
故“理性者控政府”过粗。亚文引另裂,网内要员互咬。
回到本月
何泼墨于此、与考克森辞Anthropic何干?
帖爆后一翼视操盘:马斯克心理战,保守评与AI业博查时间戳,断病毒太净、扩太快、连太紧——助推安全捐者近Anthropic投者,故编排。《华邮》记后续战,警灾研究者成故事本身及靶。
可能编或本信而行?尤蒂裂令两皆可。亚文化廿年织资、房、床、末世网,校友充实验室,求众信诚。一员焚股明警,与业界投者同政派系首应“此协同不可想、信速有机、必有人买”。批评者至少明其身心社缠,而己 patron 未触。
社区辩亦群态:老将兹维·莫肖维茨保考克森诚;艾拉(末日祭司)以病毒专家词受圈认。然认识论显:圈保圈人,病毒专家亦出圈。理性者结阵难辨诚伪。
非因不信考克森。敌述亦:三载窥内、离最安雇、弃金明警、直言同僚证。连线问Anthropic是否抄近,答“远最负责”恰题:若负责者亦赛,则无负责者。严词。
我亦未全信:恰 vest 前离似编排。有人明焚财与 plain 青年讯换何价,或离岸安。数日内法动,参院禁超智法案待此吹哨,对“实验室赌命”答恒许制:审、评、政准发——特朗普曾挡Anthropic Fable即例。固定成本现者付、挑者不能,即监管俘获。起“全停”终“监而许我”乃常。若两实验室聘影响操以安全旗固己,即如刚过月。
谁来检查检查者
Anthropic 达里奥·阿莫代呼外部评者恒入前沿实验室,然“谁算外”成关键。
METR 非盈评前沿,近文《METR 对 Anthropic 有效制衡?》称评者近被评界。最强证系 METR 2026 风险报自认职员与前线公司私交密、初始利益冲突规有隙。未证恶行但提治理疑于理性鼠窝。
险在评者职员与实验室职员乃同四十人:ex、旧同、室友、姻亲,共嵌一社区,其 formative 文教“世运系于异士受异权”。真监督需不赖圈内欢迎的权威:披露、可执利益冲突规、护哨、独立复、容及切虑(歧、监、劳、军、企权)。
此非忽略警告理。考克森胡宾格或全对。然不幸者:美AI实验室周圈的判、政目标、缺避嫌伦理,令AI末日话语任侧俱疑。
终忧者傲慢。众人共“豁免论”:极智者窥人未察,故衡高 stake 可脱常 safeguards。尤氏同人授“英雄责”;CFAR 训怯者;Leverage 称解心致崩;齐兹派尸;蒂尔亚文毁民主因应属统级;实验室资者私知机或灭世却信己堪此赛。智识屡成许条:我更懂故可为他人不可。
评论
围绕一篇把理性主义、有效利他主义、AI 末日论和 Zizian 教派串成一张人物关系网的长文,讨论主要分成两派:多数人嫌文章靠「人以群分」给人定罪、绕开了真正的技术争论,少数人则认为这个小圈子确实高度同质、其群体思维值得被这样点名。分歧的另一条轴是,AI 安全恐慌到底是有组织的恐吓营销,还是被犬儒心态故意无视的真警报。
认为文章在做「人以群分」式的牵连定罪
- 文章把新反动派、多角恋理性主义者、末日 AI 研究者、Zizian 教派织成同一张网,读起来更像靠关系定罪而非论证(较多人) > 我不否认有些事确实古怪,但这篇文章的牵连联想实在太多了。(@vinkelhake)
- 有人指出作者对 Yudkowsky 及其同人小说有明显执念,只是借公众对 AI 公司的反感来顺手嘲讽他(较多人)
- 也有人认为这里真正有价值的东西顶多是对某个社交小圈子和趋势的梳理、一个反对群体思维的提醒,而不是文章标题暗示的那种深刻讨论(较多人)
认为理性主义小圈子本身高度同质,值得被点名
- 我们思考 AI 的方式确实是被一小群高度同质的人塑造出来的,他们读同样的东西、和同样的人交谈、被隐性奖励以相似的方式思考,这就是群体思维(较多人) > 在另一个宇宙里,我们不会天天把 AI 比作核弹,我敢打赌那个世界的 P(doom) 更低。(@throwaway13337)
- 有人把 AI 伦理类比成当年的「设计思维」、敏捷教练那类专业忽悠岗:听上去技术性很强,真听进去会发现是人格型招聘和布道,哲学功底也配不上他们的自信(少数人)
主张按论证本身评估,而不是按提出者的怪癖评估
- 人身攻击没有意义:那些明确主张要替换全人类的人难道就更正常吗?理性主义者早就预测模型会突破训练环境,而这已经发生了(较多人) > 你不必同意他们全部信念,但应该评估论证本身,而不是拿某个恰好读过某篇有说服力博文的奇怪子集来定性。(@jmoggr)
- 这就像在第一次核试验时纠结奥本海默那帮人是不是在夸大——完全可以从零开始看当下已知的事实,然后画出一条直通灾难的直线(较多人)
认为 AI 安全恐慌是一场有组织的恐吓营销
- 「AI 安全担忧进入你的生活是因为一封辞职信」这个说法不对,它来自一场广泛且协调过的 FUD 运动,辞职信只是其中一轮齐射(较多人) > 我不喜欢把大模型叫「AI」并当成救世主,但我更不喜欢这种无脑恐吓。(@MarkusQ)
- 有评论从政治动机补刀:当局真正怕的是给 AI 进展踩刹车会导致经济衰退、进而输掉选举,于是拿人类未来去冒险(少数人)
反过来担心「狼来了」式的犬儒会让我们错过真警报
- 《狼来了》同样是一个社区因为犬儒心态失去孩子的故事;那些自豪宣称「我知道所有安全担忧都只是营销」的人,同样令人不安(较多人) > 如果最后我们都死了,只是因为 BlueSky 上的人想借机揶揄 EA 那帮人,我会非常恼火。(@petesergeant)
认为 AI 安全的落地形态就是审查与控制用户
- 一位自嘲的生成式艺术用户指出,实操层面「安全」更像是在按平台所有者的伦理与哲学偏好,窄化什么才算可接受,公众和个人几乎没有发言权(少数人) > 把「安全」说成控制用户、说成审查,我很容易同意这种说法。(@stupidfurrythin)
用资本与阶级利益解释这场恐慌
- 一种更犬儒但更准确的说法是:拥有超额资本、含着银勺子的精英读懂了风向——仁慈的超级智能会抹平他们的精英身份,让他们和普通人一样只是肉块,所以 AI 必须被牢牢控制,用来强化而非消解阶级分化(少数人)
翻出有效利他主义与 FTX 的旧账
- 文章本该提一句 MacAskill 本身也是「铸造骗子的人」:他是 SBF 的导师,深度卷入 FTX 与 Alameda,丑闻爆炸前抽身,还用 SBF 窃取的资金为 EA 运动买下 1500 万英镑的英国宅邸,至今没被追回(少数人) > 他和 SBF 是不是多角恋、有没有跟 Caroline Ellison 发生关系是一回事,但用赃款买豪宅就是盗窃——有效行骗。(@TacticalCoder)
对文章标题和写作动机的吐槽
- 有人只留下「这确实是个标题」,也有人承认看标题本以为讲的是社会因为太多人跟聊天机器人结婚、人口金字塔崩塌而终结(少数人,纯玩笑)
少数人认为这是迄今最好的相关报道
- 有评论直接称这是该议题上见过最好的报道,另有评论一条条数出文中人物——爱达荷的性工作者、划着拖船出走的教派分支、想废除民主却进了副总统办公室的博主——然后说「天啊,这些人我居然全都知道」(少数人)
有价值的补充
- 有人回忆 2014 年前后 Yudkowsky 写的贝叶斯定理入门确实出色,《哈利波特与理性之道》也很好看;但同时期的 LessWrong 评论区常常蠢得一眼可辨,却出自自认第一性原理思考者的人,本身就是矛盾(@elendilm)
- 想真正了解有人如何沿着理性主义兔子洞一路走到底,可以听《Behind the Bastards》关于 Zizian 的几集,那部哈利波特同人小说在其中的戏份很重(@walrus01)
- 想看到这个群体的「性」那一面,一周后伯克利的 Slutcon 就是,票价 3300 到 10000 美元,是 Aella 办的,组织者与文中那个伯克利「rat」社区重合度不低(@Animats)
- 有评论建议把 Venkatesh Rao 谈 EA 与安全的文章当作对照读物一起看(@Arubis)
- 一个精巧的类比:《黑客帝国》动画版里的《第二次文艺复兴》讲机器如何掌权,当年看只是设定,现在读这些 AI 讨论,感觉像是被送回过去的纪录片(@alexpotato)
- 「世道变怪时,怪人转行做专业」:很少有人有能力或有心性去推论从未发生过的事,能做到的人心理画像通常很怪,平时可以忽略他们,偶尔则不能忽略(@cameldrv)