文章摘要
Anthropic发布了Claude Mythos模型的两项密码分析成果:攻击HAWK签名方案和改进的降轮AES攻击。文章分析了这两项成果的质量差异,并探讨其实际意义。
文章总结
好的,这是根据您的要求,对原文主要内容进行的中文重述,保留了关键细节,并删减了与主题无关的评论性内容。
关于Anthropic最新密码分析成果的几点思考
Anthropic公司昨日发布了两项新的密码分析成果,均由其尚未公开发布的高级模型Claude Mythos产出。第一项成果攻击了一个名为HAWK的签名方案,第二项则是对简化轮数AES的改进攻击。以下是对这两项成果的解读。
HAWK攻击
该成果针对的是尚处于提案阶段的HAWK签名方案。需要了解以下几点:
- HAWK并非已部署或标准化的算法,它只是一个提案。它与正在标准化中的Falcon签名方案有关,但本次攻击并不适用于Falcon。
- 尽管如此,HAWK此前已在未来标准的评估流程中进展到一定程度。
- 该攻击并非科幻意义上的“破解”。它仍是指数级时间的攻击,但大致将算法的安全“比特数”减半。理论上可以通过加倍密钥长度来修复,但这会降低方案效率,而HAWK存在的意义恰恰在于其高效性,因此该攻击使其存在价值大打折扣。
- 攻击者提供了可运行的代码,能在数小时内攻破一个为测试目的而特意弱化的HAWK“挑战实例”。虽然该实例未使用实际部署建议的参数,但它充分展示了密码分析上的弱点。
- 尤其值得关注的是,该攻击并未发明全新的数学原理,而是对现有已知工具进行了更彻底的整合应用。这正是AI攻击所擅长的。
AES攻击
第二项成果是对简化轮数AES的新攻击。虽然“攻击AES”听起来很惊人,但这项成果的实际意义要小得多。
AES是一种标准分组密码,自2001年以来已抵御了所有重大攻击。由于攻击完整密码非常困难,密码分析人员通常针对简化轮数的版本进行研究。完整的AES根据密钥长度运行10、12或14轮,而Anthropic的新成果攻击的是更弱的7轮变体。
关键在于,针对7轮AES的攻击并非新事物,此前已有多种方案。Anthropic的新成果只是对2013年研究成果的一个常数因子改进。该攻击需要执行2的89次方次密码操作,并且前提是攻击者能诱使加密方使用其密钥生成2的105次方个特定明文的加密结果。这两点在现实世界中都完全不切实际。因此,这并非一个实用的新攻击,而只是知识上的一个小幅增量。
成果是如何取得的?
Anthropic的博客文章详细描述了过程。他们并非由大量领域专家精心调校AI,而是直接指示AI去获取结果,并让其持续工作直至找到成果。这表明AI现在能够理解现有密码分析成果,将其综合成新的攻击,甚至进行扩展,且无需过多人工干预。
验证成为瓶颈
现在的问题是,模型产出的结果不一定真实。它们擅长生成看似真实但具有误导性的结果。对于像HAWK这样能实际运行并验证的攻击,验证相对容易。但对于像AES这样更微妙的加速攻击,验证则困难得多,通常需要人类专家介入。这种对人工验证的需求将减缓研究进展。
对现实世界的影响
对密码学用户而言: 好消息是,对称密码(如AES)的设计非常复杂和健壮,AI短期内难以取得突破性进展。公钥密码的情况则更复杂,因为其依赖的数学难题(如RSA、格密码等)可能还有未被发现的攻击。当前正值从传统公钥算法向抗量子算法过渡的历史时期,AI强大的密码分析能力恰好能帮助我们更彻底地检验这些新算法的安全性,从而建立真正的信心。
对科学家而言: 这是一个绝佳的时代。AI成为了一个可以讨论难题的伙伴,同时它又尚未智能到能独立解决所有问题。新发现的节奏正在加快,这总体上是好事。
对世界而言: 不应再认为这些模型只是“高级的自动补全”或认为其进步正在放缓。它们非常智能且能力强大,进步速度很快。但另一方面,也不应认为它们已经达到超级智能。与这些工具合作就像在一个水底地形陡降的池塘里游泳,你很清楚哪里是AI能力的边界,但这个边界正在缓慢向外移动。无论好坏,我们所有人都身处这个池塘之中。
评论总结
根据评论内容,总结如下:
主要观点一:AI模型通过简单提示即可取得突破,质疑“提示工程”的复杂性。 - 评论2指出,通过重复“不,继续”等简短提示,模型就能找到结果,这让人怀疑“提示工程”的价值。 - 关键引用:“each prompt is less than ~20 words. makes me really question the whole 'prompt engineering' stuff.”(每个提示不到20个词,让我质疑整个“提示工程”。)
主要观点二:模型能力进步显著,但远未达到超级智能或AGI水平。 - 评论5强调,模型并非“美化版自动补全”,过去五个月在特定问题上进步明显;但也不能认为模型已具备超级智能,其能力存在明显边界。 - 关键引用:“The models are very intelligent and capable, they are getting better at a fast clip.”(模型非常智能且能干,进步速度很快。)“if you think that models are super-intelligent or that AGI is already here, you should also stop thinking that.”(如果你认为模型超级智能或AGI已到来,也应停止这种想法。)
主要观点三:对模型发布策略的批评,认为高级模型被过度限制。 - 评论3指出,Mythos模型已通过Fable版本向公众发布,但被添加了严格过滤器,限制了其在网络安全和生物学等领域的应用。 - 关键引用:“the rest of us get it in the form of Fable - which is Mythos but with filters that downgrade you if you try to use it for anything even remotely related to cybersecurity or biology.”(我们其他人得到的是Fable版本,即Mythos但带有过滤器,一旦尝试用于网络安全或生物学相关任务就会被降级。)
主要观点四:对评论内容冗余的批评。 - 评论4指出,原文在已有简短摘要后,又连续提供了两个TL;DR,显得重复。 - 关键引用:“did i just read two summaries/TLDRs (in a row) of the already-two-sentence summary right above?”(我是不是连续读了两遍对上面两句话摘要的总结?)
平衡性说明: 评论整体对AI模型能力持肯定态度,但对其限制和宣传方式提出批评,同时质疑部分研究方法的有效性。