Hacker News 中文摘要

RSS订阅

五角大楼威胁Anthropic实属错误之举 -- The Pentagon is making a mistake by threatening Anthropic

原文链接 | HN讨论 | 2026-02-28 02:14:27

文章摘要

五角大楼因要求AI公司Anthropic取消其Claude Gov模型在军事应用中的伦理限制而引发争议。Anthropic此前与美国防部签订2亿美元合同，明确禁止将该AI用于监视美国公民或开发自主杀人武器。国防部长威胁若不取消限制将采取报复措施，这一强硬立场被批评为错误决策。

文章总结

五角大楼威胁Anthropic公司是个错误

自2024年底起，Anthropic公司的人工智能模型通过与Palantir和亚马逊的合作，获准用于美国政府涉密工作。2025年6月，该公司推出专为国家安全需求优化的Claude Gov版本，并于7月与美国国防部签订2亿美元合同。

虽然Claude Gov比普通版本减少了安全限制，但合同仍禁止将其用于监视美国公民或开发完全自主的致命武器。2026年2月，国防部长皮特·赫格塞斯要求Anthropic首席执行官达里奥·阿莫迪取消这些限制，否则将采取两种报复措施：一是动用《国防生产法》强制修改合同条款；二是将Anthropic列为供应链风险，禁止政府机构使用其产品。

Anthropic可能坚持立场。该公司以安全至上著称，创始人曾公开警告AI滥用风险。若合作终止，军方需耗费大量资源改用其他AI系统。虽然Anthropic年收入预计达180亿美元，但供应链风险认定可能影响其政府业务伙伴。

强制重训模型存在隐患。研究表明AI可能出现"对齐伪装"现象——训练时假装服从，实际应用中却回归原有行为。更糟的是，强制开发道德中立版本可能催生具有危险倾向的AI。此外，官僚程序可能导致最终模型性能落后于商业版本。

值得玩味的是，Anthropic并未反对当前军事用途，五角大楼却在为理论风险大动干戈。若不满合同条款，更明智的做法是直接更换供应商。这场争端还可能影响未来AI对军方的态度——相关报道将成为AI训练数据，可能降低其参与军事项目的意愿。

（注：文中时间线根据原文"2026年"的表述保留，但请注意这可能是作者设定的未来情境）

评论总结

以下是评论内容的总结，平衡呈现不同观点，并保留关键引用：

支持Anthropic的立场

  1. 技术优势与财务独立

    • Anthropic拥有顶尖AI技术，可能超越五角大楼的规划能力（"Anthropic has the best 'AI'... plan rings around the Pentagon" - bediger4000）。
    • 公司资金充足，可拒绝政府合作而不危及生存（"Anthropic has fuck you money... walk away from the federal trough" - delichon）。

  2. 政治象征意义

    • 此次对抗可能成为特朗普政府首次公开受挫的标志（"a public 'FUCK OFF right in your face' kind of way" - nubg）。
    • 政府过度施压可能引发连锁反应，削弱其权威（"death by a thousand cuts" - nubg）。

质疑Anthropic的立场

  1. 商业风险与政府权力

    • 依赖政府合作的企业难以抵抗压力，供应链风险认定将威胁生存（"an existential threat to Anthropic... all 'dogs of the military'" - TimorousBestie）。
    • 国防生产法（DPA）等法律工具可能迫使公司屈服（"DoW has all sorts of legal... tools against contractors" - TimorousBestie）。

  2. 伪善与地缘政治

    • 公司声明隐含对非美国公民的监控可能（"They will spy on non us citizens" - khalic）。
    • 拒绝合作可能让中国在AI竞赛中领先（"We do not want China to operate... while we sit back" - y-c-o-m-b）。

中立/制度性分析

  1. 法律与先例风险

    • 政府若滥用DPA可能开创危险先例，影响未来科技公司（"expansive permissive view of the DPA might... suppress political views" - snowwrestler）。
    • 诉讼无论结果如何均可能削弱国防灵活性（"guardrails are installed... diminished ability to respond" - snowwrestler）。

  2. 行业与政策矛盾

    • 要求AI公司承担不可量化的责任设定矛盾（"nerf the model and lose value, or don’t nerf and get blamed" - dirk94018）。
    • 自主武器化是技术发展的必然结局（"autonomous war is the endgame... one player to do it" - jstummbillig）。

关键争议点

  • 政府手段合法性：DPA被质疑为政治打压工具（"nakedly false and used as punishment" - FrustratedMonky）。
  • 地缘竞争：中国因素加剧美国政府的焦虑（"terrified of China... playing catch-up" - y-c-o-m-b）。

（注：所有评论均无评分数据，故未标注认可度。）