Hacker News 中文摘要

RSS订阅

OpenAI支持法案:限制AI导致大规模死亡的责任 -- OpenAI Backs Bill That Would Limit Liability for AI-Enabled Mass Deaths

文章摘要

OpenAI支持伊利诺伊州一项法案,该法案将保护AI实验室免于承担AI模型造成重大社会危害(如百人以上伤亡或10亿美元财产损失)的责任,前提是开发者非故意或鲁莽行事,并已发布安全透明度报告。此举标志着OpenAI从防御性立法策略转向推动行业新标准,该法案可能适用于主要AI实验室。OpenAI称此举能降低高级AI系统风险,同时避免各州规则碎片化。

文章总结

OpenAI支持伊利诺伊州一项旨在为AI实验室提供责任豁免的法案。根据该法案,当AI模型被用于造成严重社会危害(如导致100人以上死亡或重伤,或至少10亿美元财产损失)时,开发前沿AI模型的公司可免于承担责任,前提是这些公司未故意或鲁莽导致事件发生,并已在官网发布安全、保密和透明度报告。

该法案将"前沿模型"定义为训练计算成本超过1亿美元的AI系统,这意味着OpenAI、Google、xAI、Anthropic和Meta等美国主要AI实验室都可能适用。OpenAI全球事务团队成员Caitlin Niedermeyer在作证时表示,这类法案能有效降低最先进AI系统的风险,同时避免各州法规碎片化,推动建立统一的国家标准。

法案列举了几类关键危害情形,包括恶意使用AI开发生化武器、核武器等。若AI自主实施构成刑事犯罪并导致极端后果的行为,只要开发者非故意且已发布合规报告,也可获得责任豁免。目前美国尚未通过专门界定AI开发者责任的法律,但随着Claude Mythos等强大模型问世,相关立法需求日益迫切。

值得注意的是,OpenAI此次支持州级法案标志着其立法策略转变——此前该公司主要采取防御姿态,反对可能让AI实验室承担技术危害责任的法案。安全AI项目政策主管Scott Wisor指出,在以严格科技监管著称的伊利诺伊州,该法案通过几率渺茫,民调显示90%当地民众反对给予AI公司责任豁免。

评论总结

以下是评论内容的总结,平衡呈现不同观点:

支持AI公司免责的观点: 1. 技术责任应有限度,操作者需承担主要责任: - "We always assumed some operator responsibility... surely, some limits must apply" (jstummbillig) - "No different to preventing game studios being liable for mass shootings" (jamesbfb)

  1. 军事应用难以追责:
    • "good luck trying to prosecute an AI company for something the military does" (giancarlostoro)

反对AI公司免责的观点: 1. 违背造福人类初衷,暴露虚伪本质: - "So much for 'Our mission is to ensure that artificial general intelligence benefits all of humanity'" (ArekDymalski) - "Take all of the data, take all of the credit, take all of the money, and none of the blame" (avaer)

  1. 安全风险被系统性忽视:

    • "I have made both GPT 5.4 and Opus 4.6 produce me content on creating neurotoxic agents" (himata4113)
    • "it keeps every single person that works at anti-terrorism units awake" (himata4113)
  2. 企业将成本转嫁社会:

    • "cheaper to lobby the government instead of working to make their product safe" (sassymuffinz)
    • "externalize their costs... a matter of greed and profit-seeking" (giwook)

法案具体争议: 1. 免责条款过于宽松: - "providing a PDF is what most have in mind" (Topfi 引用法案条款) 2. 临界损害定义问题: - "death or serious injury of 100 or more people... $1,000,000,000 of damages" (Topfi 引用法案)

行业对比视角: 1. 类似科技平台免责先例: - "Google, FaceBook support section 230 that gives them cover" (chollida1) 2. 与游戏行业类比: - "post-Columbine hysteria where media was critical of Doom" (jamesbfb)

极端化表达: 1. 反乌托邦隐喻: - "Please note that you can not hold the Torment Nexus™ liable" (micromacrofoot) - "Skynet begins learning at a geometric rate" (xeyownt) 2. 个人攻击: - "Altman... must be the most hated picture in existence" (4128kawr)