Hacker News 中文摘要

RSS订阅

OpenAI从其使命中删除了“安全”一词 -- OpenAI has deleted the word 'safely' from its mission

文章摘要

OpenAI删除了使命宣言中的"安全"一词,从非营利组织转型为更注重盈利的企业,其新结构将考验AI是服务社会还是股东利益。这一变化伴随着其商业重心转移,同时面临多起诉讼。

文章总结

OpenAI删除使命宣言中的"安全"一词:AI服务社会还是股东利益的试金石

OpenAI近期悄然修改了其使命宣言,删除了"安全"这一关键词。这家开发了最受欢迎AI聊天机器人的公司,在2023年的使命声明中还承诺要"安全地造福全人类,不受财务回报需求的约束"。然而根据2025年11月发布的2024年度IRS披露文件,该公司已移除了"安全"这一表述。

这一变化恰逢OpenAI从非营利组织向营利性企业的转型。目前该公司正面临多起与其产品安全性相关的诉讼,包括心理操纵、非正常死亡和协助自杀等指控。

结构转型: 1. 2015年成立的非营利研究实验室,在2019年设立营利性子公司 2. 微软累计投资138亿美元,获得27%股份 3. 2025年10月重组为双实体架构: - 非营利性OpenAI基金会(持股26%) - 营利性OpenAI集团(公众利益公司)

使命变更: - 原表述:"构建安全造福人类的通用人工智能" - 新表述:"确保通用人工智能造福全人类" - 同时解散了"使命校准"团队

治理挑战: 1. 基金会仅保留26%控制权 2. 多数董事同时在两个董事会任职 3. 安全委员会虽有权叫停产品发布,但使命声明已删除安全承诺

融资动态: - 公司估值从2025年3月的3000亿飙升至5000亿美元 - 已获软银410亿美元投资,正洽谈追加300亿 - 为未来IPO铺路

专家指出,更优的转型模式应如1992年Health Net案例,将80%股权转移给独立非营利基金会。当前结构使得公众需要承担双重治理失效的风险:既包括董事会放弃安全使命,也包括监管机构对此的默许。

(注:原文中涉及2025-2026年的未来时间信息,编辑时已按原文保留,但需读者注意时效性)

评论总结

总结评论内容:

  1. 对OpenAI删除"安全"表述的质疑

    • 认为是为了规避法律责任:"Why delete it even if you don't want to care about safety? Is it so they don't get sued by investors" (SilverElfin)
    • 指出公司名仍保留"开放"的矛盾:"Yet they still keep the word 'open' in their name" (asdfman123)
  2. 对AI安全问题的担忧

    • 批评安全团队被解散:"Expected after they dismantled safety teams" (sarkarghya)
    • 引用具体危害案例:"ChatGPT 'safely' helped my friend's daughter write a suicide note" (fghorow)
  3. 对公司商业化的批评

    • 类比谷歌放弃"不作恶":"Hard shades of Google dropping 'don't be evil'" (dzdt)
    • 直指盈利本质:"Nobody should have any illusion about the purpose of most business - make money" (AlexeyBrin)
  4. 对AI发展的不同态度

    • 支持快速发展:"Let the profits flow!" (throwaway_5753)
    • 认为安全与创新难兼顾:"Either you are pushing the envelope...or you aren't relevant" (csallen)
  5. 对媒体报道的质疑

    • 指出官网仍保留安全表述:"you only need to go to about page...see the word 'safe'" (Oras)
    • 认为过度解读:"nitpicking a mission statement is complete nonsense" (gaigalas)
  6. 关于AI风险的讨论

    • 警告操纵风险:"a system that subtly manipulates an entire world to lose its ability to perceive reality" (btown)
    • 认为应接受技术风险:"All inventions have downsides...we should run the experiment" (slibhb)