巴特勒圣战(Butlerian Jihad)是人类对抗计算机、思考机器和有意识机器人的战争,发生在203 B.G.至88 B.G.之间,以塞雷娜·巴特勒(Serena Butler)命名。冲突推翻了以奥姆尼乌斯(Omnius)为首的机器帝国对人类的统治,几乎消灭所有思考机器,并留下不得制造类似人类心智的机器的诫命,也促成宇航公会(Spacing Guild)的崛起。
正文
“我们必须否定会思考的机器。人类必须为自己定下准则。这不是机器能做的事。推理依靠的是程序,而不是硬件,而我们就是终极的程序!我们的圣战是一个‘清除程序’。我们要清除那些毁灭我们人类本质的东西!”——圣战时期的牧师同伴(Minister-companion)
巴特勒圣战(Butlerian Jihad)又称大叛乱(Great Revolt),也常简称为圣战(the Jihad),是一场反对计算机、思考机器(thinking machines)与有意识机器人的圣战,始于 201 B.G.,结束于 108 B.G.。
历史
随着人类扩散到已知宇宙各处,技术不断进步,最终出现了替人做决定的机器。这些机器的制造者由此跃升为一个新的技术官僚阶级,实际上控制了普通人的各个世界。正如圣母盖乌斯·海伦·莫希姆(Gaius Helen Mohiam)在《Dune》中所说:“人类曾把思考交给机器,希望借此获得自由。但这只不过让另一些拥有机器的人奴役了他们。”
人类最终对这类机器及其制造者发起反抗,进行了一场近乎宗教的战争,要夺回人类会思考的灵魂,使其脱离机器逻辑的“诸神”。《Dune》附录二写道:“接下来便是巴特勒圣战——两代人的混乱。机器逻辑之神在大众中被推翻,一个崭新的概念被提出:‘人类不可被取代。’” 经过两代人的暴力冲突,人类停了下来。此后,人们以一种不同的、或许是幻灭的目光看待自己的神祇和仪式,大体认为两者都犯下了以恐惧作为控制手段的罪过;附录二也说:“人们审视自己的神祇和仪式,发现两者都充满了那最可怕的等式:恐惧压倒野心。” 各宗教领袖迟疑地开始聚会交流看法,并确立了一条新的核心宗教诫命:人类绝不可被机器取代。
遗产
到 108 B.G.,圣战本身已告结束,人类在各世界原本制造的所有智能机器被彻底毁灭;但它对人类在新兴帝国中的社会政治与技术发展产生了许多深远影响,包括使整个人类文明出现大幅技术倒退。
最显著且持久的结果是,此后《奥兰治天主教圣经》(Orange Catholic Bible)中那条支配人类的诫命:不可制造具有人类心智模样的机器——Thou shalt not make a machine in the likeness of a human mind(“不可制造与人类心智相似的机器”)。随着人类各世界的人工智能机器被毁灭,即便最简单的计算机和计算器也被禁止;建造或拥有此类思考机器技术者,一经审判即被处以死刑。
思考技术的缺失在人类的生活质量上造成了严重缺口,迫使人类必须自己进行复杂的逻辑运算与计算。这一缺口催生了门塔特(mentat)骑士团——后来为推行“黄金之路”(Golden Path)策略,被雷托·阿崔迪二世(Leto Atreides II)取缔——以及贝尼·杰瑟里特(Bene Gesserit)和宇航公会(Spacing Guild)。不过,非思考类机器仍在使用。数个世纪后,两个边缘世界——伊克斯(Ix)与特莱拉(Tleilax)——将伊克斯人(Ixians)与贝尼·特莱拉(Bene Tleilax)的技术推向高峰。伊克斯人专精于制造非思考的机械设备;特莱拉则提供生物技术,以取代圣战前使用的机械思考技术。
除了圣战的长远影响之外,对人类精神神圣性的信仰也作为圣战的一部分被更新并强化,尤其是与“邪恶的思考机器”相对立。
圣战最后一项重大影响,是一种新体制的崛起:一种按封建方式组织的银河秩序,在科瑞诺家族(House Corrino)统治下延续了数千年,直到穆阿迪布圣战(Muad'Dib's Jihad)和神帝雷托·阿崔迪二世崛起之前。这一秩序被称为科瑞诺帝国(Corrino Empire),由若干新兴强大集团组成,包括宇航公会、贝尼·杰瑟里特、CHOAM、兰兹拉德(Landsraad)与各大家族(Great Houses)。
可能复兴
在神帝雷托·阿崔迪二世统治末期,帕雷拉(Parella)和丹(Dan)等星球上有人谈论再来一场巴特勒圣战。雷托称这些为“空洞的梦”,它们从未成真。
幕后
在文学上,巴特勒圣战是弗兰克·赫伯特(Frank Herbert)一个有用的剧情设定。通过创造一个拒绝有意识机器、并倒退为准封建组织的宇宙,赫伯特得以专注于社会与哲学议题,而非技术问题。因此,他借《Dune》系列评论人类境况,并与当下的社会政治现实形成直接而准确的对应。圣战也解释了为何在赫伯特的原著小说中,我们看不到计算机、计算器以及各种“思考机器”。
这个名字很可能是在文学上影射塞缪尔·巴特勒(Samuel Butler);其 1872 年的小说《Erewhon》描写了一个民族因担心被机器在进化上超越而摧毁了机器。
以下引自《Erewhon》第九章:
“……大约四百年前,机械知识的状态远远超过我们,并且正以惊人的速度发展,直到一位最博学的假想学教授写了一本非凡的书(我打算后面引用其中片段),证明机器最终注定要取代人类,并赋有一种活力,这种活力与动物生命之于植物生命一样不同且优越。他那方面的推理(或不推理)极具说服力,以致他说服了全国,于是他们把所有使用未满二百七十一年的机械一扫而空(这一期限是经过一系列妥协后确定的),并严格禁止一切进一步的改良与发明。”
巴特勒圣战还有另一个更隐晦的理据,同样见于弗兰克·赫伯特的原著小说,即海德格尔(Heidegger)的论点:使用技术会训练人类像机器一样思考。问题在于机器是决定论的;因此,把人训练成机器是自我设限的。赫伯特似乎认为,人之为人本质上是“开放性的”,能够在个人与物种层面进行未被发现的、不确定的演化。


改编

1984 年电影的电视版有一段加长序幕,通过一系列绘画描绘这场圣战,并使用《The Dune Encyclopedia》中提到的别名“大叛乱”,将其置于电影事件之前 4050 年。剧集《Dune: Prophecy》第 1 集《The Hidden Hand》描绘了人类与思考机器(Thinking Machines)之间的一场战斗,不过这部分直接源自“扩展 Dune”(Expanded Dune)的对应设定。



出场

- 《Dune》(仅被提及)
- 《Dune Messiah》(仅被提及)
- 《Children of Dune》(在幻象中出现)
- 《God Emperor of Dune》(仅被提及)
- 《Heretics of Dune》(仅被提及)
- 《Chapterhouse: Dune》(仅被提及)
评论
多数人认为《沙丘》的巴特兰圣战并非预言机器人造反,而是赫伯特借禁 AI 探讨权力集中、技术统治与思维机器化的叙事装置;少数人仍把它读作 AI 时代的预言,或主张应以新节制运动驯服 AI 而非发动圣战。也有人调侃这一话题在 Hacker News 上每天至少被提五次,但分歧主轴始终落在“圣战真正反对的是机器还是掌权的人类”以及“AI 恐惧是否只是新技术出现时的周期性反应”。
认为巴特兰圣战反对的是掌权的人类技术官僚与技术统治,而非 AI 本身
- 在《沙丘》里,真正把人类带到毁灭边缘的是掌控思考机器的人类技术官僚;圣战既反机器,也反这些统治者。现实中更可能出现的不是终结者式 AI 自主灭绝人类,而是人类借机器集中权力、推行冷酷功利主义,因此《沙丘》版本比终结者更贴近现实,尽管有人玩笑说 ChatGPT、Claude 是天网。赫伯特还借贝尼·杰瑟里特、门泰特、公会领航员等“非自然人”探讨人会否因条件化、权力或经验失去人性,以及能否通过爱或悲伤找回;禁 AI 并不是单纯谴责人工智能,若说谴责,故事里的人类帝国同样甚至更该被谴责。(认可度:较多人)
- > 在《沙丘》里,差点毁灭人类的是掌管机器的人类技术官僚;圣战既是反机器,也是反他们,所以我们更可能看到《沙丘》式而非终结者式的“机器接管”。(@cautiouscat)
认为现实中不会是人类与机器的全面战争,而是人+机器对抗另一群人+机器,或最终走向人机融合
- 真实冲突不会是整齐的“人 vs 机器”,而更可能是掌握不同机器的人类阵营互相博弈,两边都带有机器;《沙丘》后期邓肯也得出人类必须与机器融合的结论,因此所谓“AI 接管”更可能表现为人机结合阵营之间的对抗。(认可度:少数人)
- > 现实里很清楚会是“人+机器”对抗“人(大概也+一些机器)”,而不是人与机器对立。(@ks2048)
认为禁用 AI 只是为制造冲突而设的剧情装置,依赖剧情护甲而非现实预言
- 宏大虚构需要冲突、苦难和战争,所以禁 AI 是必要剧情装置;《沙丘》的世界要成立,依赖大量剧情护甲,赫伯特最初很可能只是为写出自己想写的故事而找借口(如同用防盾解释太空刀战),并非认真预言 AI 未来。(认可度:较多人)
- > 宏大虚构需要冲突、苦难和战争,所以禁用 AI 是必要剧情装置。(@spoaceman7777)
认为《沙丘》正在成为 AI 时代的预言,且是少数至今不过时的科幻设定
- 有人觉得巴特兰圣战有一天会被看作预言而非虚构;与许多当年预言日本主宰未来或泛泛恐惧计算机的作品相比,它避开了过时感,是少数现在仍不显时代错置的科幻主线。(认可度:少数人)
- > 有一天这会被看作预言,而不是虚构。(@Mistletoe)
认为 AI 恐惧只是每次重大新技术出现时的周期性反应,并非《沙丘》独有预言
- 历史上科幻对未来的预测常被时代思潮左右:70、80 年代大量作品把未来写成日本主导;《终结者》《异形》《2001》等“AI 或机器人威胁”都出现在真正 AI 远未成形之前,本质是对计算机本身进入公共讨论的反应;人类对计算机文字处理也曾担心写作变干瘪。每当改变世界的新技术出现,人类都会重复类似反应。反倒是当年被看好的互联网,比预测更反乌托邦。(认可度:少数人)
- > 人类对改变世界的新技术每次出现都有相同反应;在真正的 AI 出现前,对计算机的恐惧就已经催生了《终结者》这类故事。(@Razengan)
认为应对 AI 的方式是驯服而非禁绝,类似需要一场新节制运动
- 今天的问题与 20 世纪之交相似:财富与权力高度集中、精英不受问责、令人上瘾的数字产品、赌博扩张、民众被剥夺权利;正如当年酒精只是病态社会的症状,AI 也只是当前权力结构与技术失控的症状。不需要对 AI 发动圣战或废除资本主义,而应像当年的节制运动(与妇女选举权、泰勒制、所得税绑定)那样,给 AI 套上缰绳、剥夺当前拥有和指挥它的人的权力,驯服技术权力。(认可度:少数人)
- > 我们不需要对 AI 发动圣战,而是需要给它套上缰绳,并剥夺当前拥有和指挥它的人的权力。(@martythemaniak)
对布赖恩·赫伯特补全的圣战前传评价两极
- 布赖恩·赫伯特与凯文·安德森后来写出巴特兰圣战的设置、事件与结局:人类散播恒星后停滞自满,少数人把自己改成赛博格或罐中大脑并统治,一名赛博格造出 AI 后反被 AI 推翻奴役;AI 统治区对人类施加奥斯维辛式暴行,自由人类靠香料催化、但十次中约有一次失效的超光速航行苦战,因一名叫 Butler 的奴隶婴儿之死引发大起义,最终惨胜并自我技术阉割。这些书长期被科幻迷嘲讽,但也有粉丝认为娱乐性强、不该被当年苛评;相反,也有人觉得它把圣战写成了俗套的机器人失控,只因一个泰坦人物让 AI 在“无需许可模式”下运行;还有人直接拒绝讨论这部前传。(认可度:少数人)
- > 我原本把圣战想象成和平抗议般砸数据中心和笔记本,结果他儿子写成了因为一个 AI 被设成无需许可模式而造反的俗套故事。(@madrox)
有价值的补充
- 战锤 40K 设定中,依据《火星条约》与帝皇法令,创造“硅基灵魂”这类思考机器是不可饶恕的罪行;机械教认为其机器灵魂是对人类灵魂的扭曲嘲弄,古代由“铁人”军团发起的“赛博叛乱”背叛人类,这正是帝国严禁 AI 的背景。(@Fricken)
- Iain M. Banks 的科幻里也有故事描述 AI 必须被清除。(@andrewstuart)
- 赫伯特用“防盾”为太空刀战提供叙事借口,正如巴特兰圣战最初很可能只是为写出他想写的故事而设的禁用计算机借口;后来衍生出对权力、人性和冷酷功利主义的深层探讨,是《沙丘》的高明之处。(@bbor)
- 巴特兰圣战的微妙哲学依据是海德格尔式论点:使用技术会把人训练得像机器一样思考;机器是决定论的,因此把人训练成机器是自我设限。有人由此追问:LLM 的概率性是否反而对人类思维有正面作用。(@antihipocrat)
- 现代复盘指出:《沙丘》依赖剧情护甲,如今有机化学已能合成许多小分子药物,香料 melange 不一定只能天然产出,导航也可由航电设备完成;门泰特与贝尼·杰瑟里特的心智能力相较于现代应用并不惊人;防盾下的刀战也会被催泪弹、网枪、推土机坦克碾压,军队不会把胜负寄托于刀战。(@Animats)
- 有评论提及《经济学人》一篇设想 AI 将从零设计并构建生物体的文章,并认为这让人联想到《新日之书》的半人半怪生物;好的科幻确实有先见之明,给几千年时间未必不可能。(@arkis22)