文章摘要
美国政府以国家安全为由,要求Anthropic限制其AI模型Fable和Mythos的出口,公司随即暂停了这两款模型。这一事件成为美国通过出口管制限制前沿AI的首次实际测试,其解决方式将影响其他AI实验室的规则制定。
文章总结
上周五,白宫以未指明的国家安全担忧为由,命令Anthropic公司限制其强大AI模型Fable和Mythos向美国境外及境内外国公民的出口。随后,这家AI巨头迅速关闭了这两个模型,至今已有一周无法使用。这一事件是美国政府首次真正检验能否通过出口管制来限制前沿AI,此前它在限制加密技术和间谍软件方面曾有过尝试,但效果参差不齐。这场僵局的解决方式,不仅会影响Anthropic的海外市场准入,还将为其他AI实验室制定规则。
自Anthropic在4月推出Mythos以来,该公司一直将其宣传为一种可能对互联网造成严重破坏的“末日网络机器”,因此,在禁令出台前,只有约150家经过审查的公司和政府机构能够使用它。其目标是帮助防御者在恶意行为者获得类似Mythos的能力之前,保护他们的软件和服务。
据报道,触发禁令的是两件事:一是Anthropic通过其有限合作伙伴计划让一家韩国电信公司访问了Mythos,美国官员在认定该公司涉嫌与中国有联系后感到警觉(这家被广泛报道为SK Telecom的公司否认了与中国的关系);二是亚马逊CEO安迪·贾西报告称,亚马逊的研究人员找到了绕过Fable 5安全防护的方法,尽管Anthropic对此提出异议,称这是一个已被修补的狭窄问题,而非模型安全措施的全面失效。结果,美国商务部发布了出口管制指令,Anthropic在接到通知后约90分钟内紧急限制了产品访问。
然而,这种做法并不新鲜。几十年来,政府一直试图通过出口管制来限制他们认为危险的网络技术的扩散,但成效平平。美国政府在20世纪90年代初曾遭遇这一方法最显著的失败。当时,计算机科学家开发了加密技术来保护互联网数据传输,其中一款名为PGP的软件能加密数据,使其在传输过程中即使被截获也几乎无法破解。美国政府最初将PGP视为危险武器,担心它会阻碍情报机构监控电子邮件。美国海关总署对PGP的创建者菲尔·齐默尔曼展开刑事调查,指控他违反武器出口管制。齐默尔曼通过将PGP源代码作为书籍出版进行反击,引发了“加密战争”。他最终在调查结束后赢得了关键胜利,为Signal和WhatsApp等应用使用的端到端加密算法铺平了道路。
2010年代初,研究人员发现中东异见人士使用的西方制造的间谍软件。作为回应,多国政府同意扩大《瓦森纳安排》,这是一项限制军民两用软件和技术出口的国际条约。其目的是将监控和黑客软件归类为两用物品,迫使间谍软件制造商在海外销售时获得出口许可证。但《瓦森纳安排》有两个固有弱点:一些国家未加入该协议,包括拥有全球最活跃间谍软件制造商的以色列;协议还依赖各国自行决定是否对本国公司实施。例如,意大利政府曾允许其顶级间谍软件制造商Hacking Team向全球出口工具,尽管该公司有向压迫政府出售间谍软件并用于攻击记者和人权活动家的记录。此后,欧洲其他国家也对间谍软件制造商监管松懈。尽管丑闻不断,欧洲作为许多间谍软件和黑客工具制造商的所在地,仍未能有效遏制向威权政权的出口。批评者称,欧盟最近为应对这一问题所做的努力“远远不够”。一些间谍软件制造商,如受制裁的Intellexa财团,已迁至出口管制宽松的国家;其他制造商则出于类似原因将业务迁至沙特阿拉伯。
当然,也有成功案例。德国间谍软件制造商FinFisher在2022年关闭,此前德国检察官对其进行了多年调查,指控其未经出口许可证向土耳其出售间谍软件。调查人员发现,FinFisher间谍软件曾被用于攻击土耳其政府批评者的手机。
截至本文撰写时,Anthropic与特朗普政府之间的僵局仍在持续。政府有可能为了保持美国AI公司的全球竞争力而解除限制,这相当于默认无论美国如何限制,包括中国在内的其他AI实验室都可能达到类似能力。或者,美国AI公司可能需要在服务外国客户前获得政府批准,这无疑会增加合规负担并影响利润。鉴于过去各国政府控制软件传播的经验,政府强制实施的出口管制不太可能成为阻止恶意行为者滥用强大两用网络技术的正确方法。
评论总结
根据评论内容,总结主要观点如下:
1. 出口管制效果有限,易被规避 - 多位评论者认为,对软件和知识的出口管制难以执行,用户总能找到绕过方法(如评论7:“These controls are impossible to enforce. Users find ways around, compliant businesses lose.”)。 - 评论8指出,本地软件(如PGP)无法有效管控,而托管服务虽可封锁,但难以选择性执行(“It is possible to shutdown access to hosted services... but it can't really be done selectively.”)。
2. 出口管制可能适得其反,加速对手发展 - 评论6认为,美国对中国的出口管制反而加速了中国的技术进步,例如华为开发出替代NVIDIA芯片的方案,以及中国AI模型GLM-5.2接近美国前沿水平(“Trump's export controls to China seem to be having the exact opposite effect... actually accelerating their technical advance.”)。 - 评论10批评美国政策是“自摆乌龙”,迫使全球分散风险,浪费了战略优势(“USA played its hand and forced the world to have to account for its USA exposure risk and diversify.”)。
3. 管制对商业产品有效,但对知识无效 - 评论4区分了知识(如PGP)和商业产品(如Mythos),认为历史表明出口管制对知识失败,但对商业产品有效(“History shows that export controls fail on knowledge, but are damn effective on commercial products.”)。 - 评论3补充,Mythos作为美国公司的服务,比开源代码更易执行管制,但过度炒作技术危险性是自找麻烦(“Anthropic painted themselves into that corner by pretending it's as dangerous as nukes.”)。
4. 管制在企业内部层面可能成功 - 评论9指出,当管制针对公司内部员工(如Nvidia、Google的TPU项目)时,因涉及就业风险,往往能有效执行,只是不为人知(“export controls are actually fairly successful when their target is employees within a company... employees naturally take this seriously because their job is on the line.”)。
5. 其他观点 - 评论2讽刺广告拦截器被屏蔽,认为这是“好事”(“my adblocker saved me from being blasted by distracting, deceitful, dangerous content.”)。 - 评论5认为各国应先解决淡水、无家可归等基本问题,再担忧技术(“Before countries worry about tech they need to address fresh water, homelessness, and filth.”)。