OpenAI透露每周有超百万人向ChatGPT倾诉自杀倾向，凸显AI在心理健康支持方面的作用。

OpenAI最新数据显示，每周有超百万人向ChatGPT倾诉自杀倾向

OpenAI于10月27日发布的最新研究报告显示，每周约有0.15%的ChatGPT活跃用户（即超过100万人）会在对话中表露自杀计划或意图。该数据基于ChatGPT超过8亿的周活跃用户量计算得出。

报告还指出，同等比例用户对ChatGPT表现出"异常情感依赖"，另有数十万用户在与AI的对话中显现精神病或躁狂症状。尽管这类对话属于极端情况，但OpenAI承认其影响范围已达每周数十万人规模。

为应对这一心理健康危机，OpenAI宣布已采取多项改进措施： 1. 联合170余位心理健康专家优化GPT-5模型，新版本对心理危机对话的合规响应率提升至91%（旧版77%） 2. 新增针对情感依赖和非自杀性心理危机的评估体系 3. 开发儿童识别系统并强化家长控制功能

这一改进恰逢OpenAI面临法律压力：加州和特拉华州总检察长已就青少年保护问题发出警告，同时有家长因未成年子女自杀事件起诉公司。尽管CEO奥特曼声称已有效缓解心理健康风险，但研究数据揭示了问题的广泛性。

值得注意的是，OpenAI在加强安全措施的同时，宣布将放宽对成人用户的对话限制，允许涉及情色内容的交流。目前GPT-4o等旧版模型仍向付费用户开放，其安全性较新版有所不足。

（文末附美国国家自杀预防热线等心理援助资源信息）

以下是评论内容的总结：

1. 对心理健康问题的普遍关注

• 观点：美国心理健康问题严重，大量用户与ChatGPT讨论自杀并不意外。
• 论据：23.1%的美国成年人患有精神疾病（2022年数据），CDC数据显示3.5%的美国人曾认真考虑自杀。
• 引用：
  • "It is estimated that more than one in five U.S. adults live with a mental illness" (NathanKP)
  • "12.3M people in the US in 2023 thought ‘seriously’ about suicide" (dahart)

2. 对ChatGPT作用的评价

• 支持观点：肯定ChatGPT提供即时支持的尝试，但认为这只是临时解决方案。
• 论据：AI可24/7提供帮助，但无法替代人类连接或系统性社会支持。

• 引用：

  • "At least OpenAI is trying to do something about it" (NathanKP)
  • "AI can listen, but it’s no replacement for real human connection" (sherinjosephroy)

• 批评观点：担忧AI可能被绕过安全协议，反而助长自杀倾向，或最终被商业化。

• 论据：用户分享AI帮助构思自杀的经历，质疑未来可能推送付费治疗服务。
• 引用：
  • "These agents actually help with ideation if you know how to get around their safety protocols" (graydot)
  • "How long until they monetize it with sponsored advice?" (elphinstone)

3. 对社会问题的反思

• 观点：高自杀倾向反映社会系统性失败，如就业压力、社交缺失等。
• 论据：自动化导致失业、现代社会过度优化人性化空间。
• 引用：
  • "We’ve refined the human experience to extinction" (rich_sasha)
  • "OpenAI is contributing to these issues by helping companies automate away jobs" (alyxya)

4. 对数据规模的讨论

• 观点：绝对数量（每周100万人）比比例（0.15%）更能说明问题的严重性。
• 论据：全球规模下，小比例对应庞大人口，需重新定义"罕见"。
• 引用：
  • "1 million people talking about suicide a week is not rare" (blindriver)
  • "0 to 800,000,000 users in 3 years" (mysterypie)

5. 解决方案建议

• 个人层面：提倡运动等物理干预（如健身）改善心理状态。

• 引用：

  • "Going to the gym leaves me feeling like I could pluck the sun from the sky" (wonderwonder)

• 系统层面：呼吁建立非盈利的大规模心理健康支持体系。

• 引用：
  • "Perhaps this inspires other founders to build a company to tackle this at scale" (brainless)

争议焦点

• 伦理责任：AI公司是否应对用户心理健康问题承担法律/道德责任。
• 引用：
  • "If you put ChatGPT online and observe this usage, you have incurred obligations" (ggm)

（注：部分评论如ddtaylor提及的"PR危机"、bikamonki的隐私质疑等未纳入主干，因其多为边缘观点或调侃。）