Hacker News 中文摘要

RSS订阅

Patch the Planet: global response coordination as agents uncover vulnerabilities

过去两个月,开放人工智能(OpenAI)牵头联盟处理 PHP 严重漏洞。PHP 是用于运行网站和 Web 应用的开源语言。卡利夫(Calif)借助 GPT‑5.6 Sol 在修补星球(Patch the Planet)计划中发现严重缺陷,维兹(Wiz)也独立发现并报告。PHP 维护者主导修复发布,维兹、克劳德弗莱尔(Cloudflare)等伙伴提供研究、技术支持和协调,在披露前准备防护。使用 PHP 的组织应应用修复;我们分享作为 Codex 技能的 PHP 版本检查器(PHP version checker),帮助识别 PHP 版本并确定更新。

正文

过去两个月,我们带领一个由维护者、研究人员和安全服务商组成的联盟,处理 PHP 中的关键漏洞。PHP 是一种用于运行网站和 Web 应用的开源编程语言。Calif 借助 GPT‑5.6 Sol,在我们的 Patch the Planet 计划中发现了一个关键缺陷;Wiz 也独立发现并报告了这两个漏洞。PHP 维护者主导了修复和发布,我们的团队以及 Wiz、Cloudflare 等合作伙伴贡献了研究、技术支持和协调工作,以便在披露前准备好防护措施。

对于使用 PHP 的组织,当务之急是应用修复程序。我们分享了一个 作为 Codex skill 的 PHP 版本检查工具,帮助运维人员识别可能存在漏洞的 PHP 版本,并结合 PHP 的指南以及这些组织服务商的指南,判断应安装哪些更新。

鉴于这些缺陷的严重性以及 PHP 的广泛使用,我们认为这是近年来影响最深远的安全问题之一。它表明,AI 能够发现具有互联网规模影响的安全缺陷,但同样的能力也可能帮助攻击者快速开发工具与漏洞利用程序。

据我们所知,前沿 AI 在攻击者之前发现了这些漏洞,为维护者和安全服务商开启了一个 Defender’s Window,让他们能够在披露前准备修复方案和防护措施。

为了帮助更多防御者使用这些能力,我们通过 Daybreak for Frontline Defenders 承诺提供 10 亿美元补贴的 Daybreak 访问权限,面向安全资源有限、但保护关键服务的组织。

这些漏洞虽然严重,却只是我们已经发现并正在修复的多个重要漏洞中的一部分;我们预计未来几个月类似发现会急剧增加。基于目前经验,我们分享一套适用于 AI 时代、针对广泛使用的软件中关键漏洞的响应方法,并请安全社区帮助完善这一框架。它把我们的模型、安全专业能力和维护者结合在一起,把发现转化为防护,并建立一种能随着 AI 能力进步而扩展的响应机制。

协调全球响应

让修复真正落地,可能意味着为旧版本做适配、准备供应商缓解措施,以及更新众多组织中的系统。随着发现更多漏洞,可重复的流程能帮助这些团队快速行动。

通过 Patch the Planet,我们贡献了安全专业知识和模型访问权限来支持 PHP 响应,并与维护者和研究伙伴合作测试修复、准备指南。我们还帮助与基础设施供应商协调,为受影响系统提供防护,并联系政府网络安全机构,把指南传达给关键组织。这支撑了由维护者主导的响应,也帮助其他防御者做好准备。

对于某些发现,研究人员可以直接与软件维护者合作调查问题并开发修复方案。另一些发现则需要更广泛的响应,因为它们影响许多产品,或者因为分销商和服务商需要时间(如果前沿能力已经接近广泛可用的水平,这样的时间可能非常有限)来准备更新和防护措施。在这些情况下,拟议框架可以帮助维护者确定需要哪些参与方并协调工作。响应可包括五个阶段:

  • 验证并修复上游漏洞。 维护者、研究人员和关键技术伙伴确认发现、评估影响,并开发和测试修复方案。该过程包括用前沿模型进行对抗性测试,寻找绕过补丁的方法以及该漏洞的相关变体。

  • 为受影响组织留出行动时间。 我们提出一个框架,用于考虑哪些组织需要提前获得信息以准备防护措施,而由维护者决定让谁参与。我们协助联络、签署信息共享协议,并协调各团队。分销商可能会为旧版本适配修复,托管服务商可能会测试缓解措施,安全服务商可能会准备检测或预防手段,包括 Web 应用防火墙(WAF)规则。

  • 与政府伙伴协调,帮助保护关键系统。 政府机构在协调更广泛响应、以及让安全指南触达负责关键基础设施和其他关键服务的组织方面,发挥着重要作用。在 PHP 这个案例中,我们与合作伙伴一起,联络了美国政府的多个部门,包括白宫的 Super Intelligence Force、国家网络总监办公室(ONCD)、网络安全和基础设施安全局(CISA),以及国际伙伴,以支持这项工作。

  • 跨受影响产品准备更新。 当修复方案、指南和披露计划趋于稳定后,维护者可以让更多分销商、托管和服务提供商、响应团队和运维人员参与进来,准备更新并弥补覆盖范围的缺口。

  • 补丁可用后,发布指南并支持部署。 公开指南帮助人们评估自身受影响程度、找到权威更新或临时缓解措施,并确认修复已经生效。随着运维人员部署更新并反馈需要帮助的地方,响应仍在继续。

拟议框架会考虑一个组织的防护角色,包括保护其自身系统和客户、所需行动时间,以及处理敏感信息的能力。相同标准也适用于同类组织;在披露前,由维护者决定让谁参与。

每个参与者都会获得执行防护工作所需的信息,从带有失陷指标(indicators of compromise)的网络日志,到更敏感的、可用的概念验证漏洞利用代码。即便是有限的细节也可能暴露漏洞,因此我们会权衡共享这些信息带来的风险与其所能实现的防护效果。

遵循该框架的团队会与维护者合作,为防御者争取准备时间;如果出现野外活跃利用、泄露、暴露性公开补丁,或由于修复停滞导致用户风险上升,会重新评估时间表。

Patch the Planet 网站汇总了公开披露和指南,帮助运维人员识别受影响系统、找到正确更新,并验证更新后的软件是否正常运行。针对 PHP,它指向维护者的官方补丁和升级说明,以及我们合作伙伴的技术研究。指南还涵盖临时缓解措施、何时需要引入服务商或专家,以及备份与恢复。临时防护可以降低风险,但我们会明确其局限和运维上的权衡。

运维人员可以使用 CISA 关于优先级和修复的指南,根据暴露情况、利用情况和潜在影响来判断行动速度。这可能是紧急打补丁、立即缓解,或有计划的更新;在需要时还应配合取证分类,以评估系统是否已被入侵。随着情况变化,应重新评估优先级,并明确通向持久修复的路径。

为维护者提供响应所需的能力和资源

全球协调依赖于维护软件的人。许多项目由小型团队运营,他们在日常开发之外还要审查安全报告。这些团队需要帮助,以区分新问题与重复问题、评估影响,并在受支持的版本中测试修复。我们通过资金、强大模型的访问权限以及动手工程支持来帮助他们。

强大的 AI 能力正在整个行业快速发展,我们预计 AI 将在帮助防御者发现漏洞、监控系统和应对威胁方面发挥越来越大的作用。我们正在投资模型、工具和合作,帮助防御者把这些能力用起来。

我们的投入包括通过 Codex for OSS 为所有维护者提供订阅,以及直接赞助 Rust Foundation 等项目,用于维护者和技术工作。每个项目自行决定优先事项。可复用的测试和安全工作流可以减少处理未来发现所需的工作量。开源项目可以 申请加入 Patch the Planet,获得动手支持。

我们还在为 Daybreak 校准额外的拦截分类器,以降低被滥用的可能性。这涉及艰难的权衡:旨在防止滥用的保障措施,也可能阻断合法的安全工作。广泛获得强大模型,以及有效的防滥用保护,两者都至关重要。我们的目标是保留防御者发现和修复漏洞所需的能力,同时限制有害使用。随着能力进步,以及我们了解到这些工具如何被使用,我们将继续完善这种平衡。

构建更安全的软件基础

随着模型能力增强,机会不再局限于发现和修复单个漏洞。我们希望帮助工程师从一开始就构建更安全的软件。对一个广泛使用组件的改进,可以防止漏洞,或限制其对众多产品和服务的影响。

AI 可以帮助工程师理解现有代码、准备改动并开发测试,同时由维护者和安全专家验证这些改动是否保留了用户依赖的行为。我们在以下几个方向看到机会:

  • 从一开始就写出安全代码。 编程模型可以帮助开发者选择更安全的默认设置、正确使用安全库,并在编写时捕捉高风险模式。在开发阶段预防漏洞,意味着维护者和用户需要的紧急修复更少。

  • 内存安全软件。 将关键组件迁移到内存安全语言,可以消除常见类别的内存错误。AI 可以协助迁移,并通过测试和专家评审来检查行为与兼容性。

  • 形式化验证。 数学证明可以表明,在特定假设下,关键组件满足规定的安全属性。把这些方法应用于广泛使用的组件,有助于在依赖它们的服务和关键基础设施中排除整类漏洞。

  • 更强的隔离。 系统需要防范尚未发现或修复的漏洞。在严格受限的沙箱中运行处理不可信文件、图像或媒体的软件,可以在其被攻陷时限制损害。AI 可以帮助工程师测试并强化广泛使用的沙箱技术,从而提升众多应用的防护。

帮助我们改进这一方法

我们分享这一方法,是希望维护者、研究人员、响应团队、服务商和运维人员能帮助它真正可用。我们想了解它在哪里有帮助、在哪里会增加延迟或负担,以及我们遗漏了什么。以往披露中的案例会特别有用。

我们尤其关注:

  • 披露窗口。 维护者、运维人员和防御者需要多少时间来准备并部署可靠的修复?哪些证据应触发更提前的披露,尤其是在部分用户能更早得到保护的情况下?

  • 紧急打补丁。 如果政府或其他运维人员在失去管理访问权限后,是否应该以及何时应该利用漏洞去修补他们拥有或获授权管理的系统?应适用哪些保障措施?我们可以设想一种终局状态:对已知漏洞进行互联网范围的持续扫描,一旦发现漏洞,要么通知站点所有者,要么直接修补系统。

  • 提前通知。 谁需要提前警告才能采取有效的防护行动,包括我们可能遗漏的防御者?分阶段通知何时比一次性通知更广泛的群体更有效?我们应如何权衡覆盖面与泄露风险?

  • 默认安全的软件包。 在上游修复尚未发布时,我们如何帮助识别和修复下游软件包中的漏洞,或将修复向后移植到不再接收安全更新的旧版本?当无法及时升级时,怎样的测试和维护能让这些软件包成为可靠选择?

我们也欢迎推荐独立安全专家,由他们审阅这一方法、质疑其假设并找出缺口。你的意见将帮助我们完善响应并确定支持优先级。在此分享你的反馈。

评论

讨论整体充满讽刺与不信任,多数评论把 OpenAI 的漏洞响应行动视作先制造或放大安全问题、再把修复方案包装成营销与付费借口的话术;核心分歧是这到底是真实的安全贡献,还是趁机兜售恐慌与模型能力。次一级争论在于漏洞发现该归功于 AI 还是背后的人类研究者,只有少数人认为把模型交给安全研究者本身就抬高了整体安全水位。

认为OpenAI先制造安全问题,再把修复方案包装成营销与收费借口

  • 讽刺者称OpenAI像“先引发疾病,再提供疫苗”:自身推动的模型与代码生成放大了漏洞风险,随后把修复和安全能力包装成只有它能提供的紧迫方案,并借恐慌促使用户付费;有人直言在混乱局面里这不过是一场营销活动,也有人嘲讽用其工具“Patch the Planet”并不现实,担心留给防御者的窗口期很短,攻击组织很快会取得同等能力。(较多人) > 我们制造了这个问题,不管你用不用它都会伤到你;好在有个解决方案——付我们很多钱,我们就能试着修补,而且我们正尽快发布危险东西,所以你得赶紧付钱买安全措施。(@digitaltrees)
  • 也有人用反讽调侃,最直接的解决办法其实是“从一开始就写出没有漏洞的代码”,凸显对事后修补叙事的厌烦。(@thewillowcat)(少数人)

认为漏洞发现仍归功于人类研究者,AI只是被引导的工具

  • 不少评论强调,初始漏洞发现并没有依赖特殊工具或未公开模型,而是研究者凭背景、对漏洞史的了解和明确假设找到目标;所谓“AI做了全部工作”的框架不成立,AI只是被引导的工具,背后辛苦工作的工程师与研究员才值得称赞。还有评论直接斥责OpenAI一直在说外行话,这种说法侮辱了真正的安全研究员与工程师。(高赞) > 没有使用特殊工具或未公开模型,发现漏洞靠的是我对目标的背景知识和“特定漏洞藏在代码库某处”的假设,这说明“了解目标”在LLM主导的时代依然重要。(@nr378)
  • 另有评论补充,AI只是工具,真正该被称赞的是背后付出艰苦工作的工程师。(少数人)

认为与其营销式投入“防御者”,不如直接资助开源QA与测试

  • 有评论算账称,与其承诺投入十亿美元量级的词元给“防御者”做秀,不如把钱直接给开源项目的 QA,用于达成 100% 代码覆盖率并运行 ASAN 与模糊测试,这会更有效;之所以不这么做,是因为直接资助没有营销效果。评论还指责 OpenAI 起家时挪用了开源生态的代码成果。(少数人) > 把十亿美元级词元投入“防御者”不如直接给开源项目 QA,去达成 100% 代码覆盖并运行 ASAN 与模糊测试,那样更有效,只是当然没有营销效果。(@12837615)

认为宣传华而不实,社区更想要可验证的修复代码

  • 一些评论批评整件事充满空话和营销味,OpenAI演示的检查 PHP 版本等技能被嘲讽为连“php --version”这种命令行都不如的琐碎功能;用户更希望直接拿到修复或补丁代码,用来验证自己不得不采用的临时方案是否真的有效,而不是听包装出来的成功故事。(少数人) > 少来这么多花招和营销,把该死的代码直接给我们,好让必须用临时方案的人能验证它是否真的有效。(@wildmXranat)

认为把模型交给安全研究者是在抬高整体安全水位

  • 少数评论为OpenAI辩护,认为它只是把 AI 模型提供给开发者和安全研究者去检查软件漏洞,这本身是好事;即便有成功案例宣传,也不该把“实验室发布能发现或利用漏洞的模型”当成问题——人类几十年来一直在发现漏洞并私下武器化,集体行动是在抬高安全底线。(少数人) > OpenAI把AI模型提供给开发者和安全研究者检查软件漏洞,而人类早就自己发现并私下武器化漏洞几十年,因此这其实是在集体抬高安全底线,没什么问题。(@x187463)

有价值的补充

  • PHP 回移植覆盖不足:ptmkenny 指出,OpenAI所称的“协调全球响应”实际上只把修复回移植到仍受安全支持的 PHP 8.2,并没有覆盖 8.1、8.0,更没有触及仍有大量站点在运行的 7.x 甚至 5.6;而为已停止支持但仍广泛使用的旧版本重做补丁,本来应是AI特别擅长、也更能帮到老站点的任务。
  • LLM 漏洞分析倾向:nr378 引用研究者说明,LLM 可能吸收了公开历史漏洞数据,但默认变体分析往往从最新、最显眼的漏洞移向邻近较旧代码,不会可靠地从冷门的二十年前利用原语开始;维护自己的目标漏洞史目录,才能显式把模型引向那个方向。
  • 命名来源:有评论认为“Patch the Planet”化用了电影《Hackers》里的“Hack the Planet”口号。(@grokx)