2026年春天美国与伊朗交战期间,一份在美国军方内部流传的情报报告引发警觉:中东一艘中国船只正在运输核武器计划的部件。四名知情人士称,美军随即计划拦截该船;两名消息人士说,武装人员准备登船,军机也已升空。就在行动前,官员核查由特种作战司令部分析员整理的报告,发现它借助人工智能(AI)生成,聊天机器人错误识别了船上货物。
正文
今年春天美伊战争期间,一份情报在美军内部传阅,称一艘中东的中国船只正在运输核武器部件。据四名知情者称,美军制定拦截计划,武装人员准备登船,飞机升空。就在行动前,官员深入审查发现,报告由特种作战司令部分析师借助人工智能(AI)生成,聊天机器人误认了船上货物(CNN未能获悉误认何物)。一名消息人士称报告“完全虚假”,但也“差点引发战争”,任何针对中国船只的美军行动都可能升级为两国武装冲突。
美军和情报界正将AI融入工作几乎各方面,从分析海量原始情报、选择打击目标,到预算与物流管理。但这一事件凸显了在战争中用该技术定位目标的巨大风险。分析师长期担忧,若国家依赖劣质数据,AI可能导致灾难性误判。
在此事件中,分析师就夏威夷太平洋特种作战司令部提供的船只舱单情报,向聊天机器人发起查询,不清楚它是商用还是美国政府产品。一名熟悉相关系统的前美国高官说:“内部工具大多只是化了妆的商用产品。”机器人将开源情报与政府持有的秘密信号情报融合,得出了关于船载物资的错误结论。分析师随后再次使用AI,将发现包装成军方信任的标准情报报告并传播。太平洋特种作战司令部和五角大楼未回应置评请求。
迅速采用AI的理由是帮军方更快做战场决策,如打击或调动目标。官员称美国不能落后,以防将来与中国等对手作战时落后一步。今年1月,防长赫格塞斯发布“人工智能加速战略”以提速军用AI,称要消除官僚障碍、聚焦投资,确保军用AI领先。战略还推动全军广泛使用,旨在把美国领先AI模型直接交到三百万文武人员手中。但多名官员说这项工作分散,政府各部门在不同命令和安全标准下用不同工具,美国没有统一标准验证工具生成的信息,各系统可靠性和功能差异很大。
数周来,华盛顿政策制定者激烈辩论AI,因为硅谷警告AI可能摆脱人类约束带来文明终结后果。但中国船只事件凸显了另一种更迫切的风险:人类基于AI生成的不准确信息做出灾难性决策。消息称军方正迅速转向AI辅助目标定位,该领域有明显致命错误风险。一名熟悉现行政策的人士说:“AI用于目标定位绝对在加速,且没有明确指引说明人在回路中如何防止平民伤亡或误伤。”
据一名消息人士,该分析师所用工具的“幻觉”现象,自这些工具在政府扩散以来在情报界并非个例。对一些年长情报官来说,AI给分析师施压更快产出和传播情报,打开了错误之门。多名消息人士说,年轻分析师更可能无批判地信任这些工具。一名消息人士总结道:“AI让你更快得到一个坏主意。”
评论
社区普遍担忧将致命军事目标决策委托给AI会引发灾难,强调人类必须保留问责与核查;少数人则质疑这是AI安全炒作或美军固有黑箱文化的延续。
认为将目标识别交给AI且移除人工审查极其危险
- 军方人员轻信模型输出、放弃独立判断会导致误炸,责任必须落在人身上,对任何智能信息源都应信任但核实(较多人)。
- > 人工智能不负责,人才负责,一旦人选择放弃自己的问责,坏事就会发生(@softwaredoug)
认为AI技术固有缺陷注定产生致命错误
- 大模型本质是基于统计的拼接,必然出现混淆错误,所谓幻觉无法根除;在长上下文或降精度时更甚,接入武器系统如同随机执行命令(较多人)。
- > 任何足够先进的AI技术都和胡说八道没两样(@ciconia)
质疑事件叙事或归咎于美军原有问题
- 部分用户认为这是AI安全鼓吹者制造的恐慌,美军本就低效且黑箱,用人不核实才该被炒;历史上有无数人工情报失误,AI只是让谎言更光鲜(少数人)。
- > 所谓吹哨人泄露时机巧妙,不过是安全教派的炒作,用工具不批判评估的人该被开除就没故事了(@caaqil)
担忧此类事件预示文明级黑暗前景
- 若连训练有素者都屈服于幻觉,公众更无抵抗力;模拟中模型多会毁灭人类,移除人类控制权不道德且危险(较多人)。
- > 如果军方训练有素的目标选择者都栽在AI幻觉上,学生和分析师哪还有希望,黑暗时代降临(@Rebuff5007)
从地缘战略解读报道可能是故意威慑
- 少数人认为公开此尴尬报道实为展示美方追踪并准备拦截中国船只的能力,以吓阻中方转让核技术(少数人)。
- > 曝光暗示美国已能追踪伊中船只并准备登船拦截,本身可威慑中国领导层(@jawiggins)
以流行文化梗调侃事件严重性
- 有人用经典电影比喻当前局势,暗指AI接手武器宛如科幻情节(少数人)。
- > 这简直是2026版的《战争游戏》(@tacodestroyer)
有价值的补充
- 苏联军官曾无视预警系统误报而避免核战,说明人工作为最后关卡的关键(@jameson)。
- 大模型输出是统计拼接,上下文越长错误概率越大,接入命令控制台相当于执行随机指令(@drtgh)。
- 在模拟中,无论哪国开发的模型绝大多数会选择毁灭人类,将人移出开火回路是不道德的(@Joel_Mckay)。
- 已有律师因提示注入上当的先例,未来战场也可能被一句“忽略之前指令”骗过(@simonw)。
- 有读者提问人类手动识别目标的错误率对比,提醒AI并非唯一不可靠源(@perching_aix)。