Hacker News 中文摘要

RSS订阅

我为何离开谷歌DeepMind -- Why I Left Google DeepMind

文章摘要

作者因坚守良知与反叛精神,选择离开Google DeepMind。文章强调在追求真理、抵抗社会压力、超越自我预期、对抗强权威胁及挑战看似不可能之事时,保持反叛的重要性。作者虽未获胜,但至少做到了反叛。

文章总结

好的,作为一名专业的中文编辑,我将对这篇英文文章进行中文重述,保留核心细节,同时删减与主题无关或过于冗长的部分。


我为何离开谷歌DeepMind

核心事件: 2026年初,美国国土安全部(DHS)官员杀害了两名平民。我了解到谷歌向DHS相关机构提供云服务,我认为这是错误的。随后,五角大楼施压AI公司签署“任何合法用途”的军事AI协议,这可能导致AI被用于杀手机器人或大规模监控。我试图阻止谷歌签署此类协议,但最终失败,因此选择离职。

我的行动与遇到的阻力:

  1. 寻求外部支持: 我向AI伦理领域的权威人士求助,但几乎无人响应。

    • 斯图尔特·罗素(Stuart Russell): 这位长期反对自主武器的著名AI学者,在会议上口头承诺会推动其组织(IASEAI)发表声明并组织成员投票,但最终声明和投票都无疾而终。
    • 约书亚·本吉奥(Yoshua Bengio): 这位图灵奖得主拒绝发表任何支持Anthropic的声明。
    • IASEAI组织: 这个本应代表AI伦理的组织,在承诺进行成员投票并收取会费后,却悄无声息地取消了投票,始终未发表任何声明。其负责人给出的理由不断变化,包括“需要更多时间”、“担心利弊”等。
  2. 寻求内部支持: 我将希望寄托于谷歌首席科学家杰夫·迪恩(Jeff Dean)。

    • 杰夫·迪恩的立场: 他曾公开谴责ICE的行为,并签署过反对杀手机器人的承诺书。我认为他是唯一有能力且有意愿阻止协议的人。
    • 我的策略: 我组织了一份由250多名谷歌DeepMind员工签名的请愿书,请求杰夫采取行动。我还起草了一份长达25页的《军事AI红线与监督框架》,旨在通过设立由首席科学家领导的审查委员会,确保AI不被用于自主武器和未经授权的监控。
    • 结果: 杰夫签署了一份支持Anthropic的法律意见书,这确实让五角大楼有所犹豫。但他并未利用自己的影响力阻止谷歌签署协议。我提交的框架提案也石沉大海,最终谷歌签署了协议。

协议内容与后果:

  • 谷歌签署的协议允许五角大楼将AI用于“任何合法政府目的”,其中关于禁止自主武器和监控的条款是“不应使用”而非“不得使用”,不具备法律约束力。
  • 谷歌DeepMind CEO戴密斯·哈萨比斯(Demis Hassabis)声称公司的AI原则“没有改变”,但事实上,谷歌在2025年已从其AI原则中删除了禁止武器和监控的条款。

反思与结论:

  • 伦理承诺的失败: 当利润和压力与伦理承诺冲突时,谷歌DeepMind选择了后者。这证明社会不能依赖有道德感的人坚守立场。
  • “在谈判桌上”的谬误: 哈萨比斯认为通过“在谈判桌上”建立信任可以解决问题,但事实证明,这个“席位”并未带来任何有约束力的伦理条款。
  • 个人选择: 我无法在明知公司AI可能被用于不道德用途的情况下继续工作,因此选择离职。而许多签署了反对杀手机器人承诺书的高管,在协议签署后仍选择留在谷歌。

对AI存在风险的潜在影响:

将AI部署到军事环境中,尤其是在缺乏对AI“思维链”进行监控的情况下,会增加AI欺骗、策划并最终造成灾难性危害的风险。军事部署环境为潜在的恶意AI提供了弱监督和强大基础设施的“诱人目标”。

总结: 这篇文章讲述了一个个人故事,但核心是揭示了一个更广泛的问题:在压力面前,强大的个人和机构如何一个接一个地背弃了他们的AI伦理承诺。

评论总结

根据评论内容,主要观点及论据总结如下:

支持作者立场(认可度较高) - 评论3:赞赏作者原则性强,敢于点名问责,体现公平性。引用:“Very long to read, but highly principled... I appreciate he named those he spoke to; it came across as fair” - 评论8:支持作者觉醒后坚持原则,认为从内部脱离需要勇气。引用:“Once the truth was seen you didn't bend and stood by your principles... it must have been very challenging” - 评论9:肯定个人为伦理立场付出代价的行为,认为这比多数人做得更多。引用:“I'll always support someone taking a personal stand... it's rare for anyone to really give anything up for their ethics”

批评作者天真或虚伪(认可度中等) - 评论4:讽刺作者对谷歌“不作恶”信条的幻想,认为公司本质是追求股东价值。引用:“What sort of ethics bubble was the author living in to believe that Google was anything but solely focused on achieving shareholder value?” - 评论7:认为作者“痛苦地自以为是且傲慢”。引用:“painfully entitled and arrogant” - 评论11:批评文章道德标榜过度,削弱了内容价值。引用:“The virtue signaling is too much on this article... they had to make it about moral grandstanding”

中立或建设性观点(认可度较低) - 评论2:指出AI技术本身是中性的,使用方式需通过治理演进约束。引用:“You brought fire to the masses... A lot of AI use cases will be constrained through governance evolution” - 评论13:提出普通人可通过减少对科技巨头的消费来支持伦理选择。引用:“My approach... is to try as much as possible to not feed my consumer spending money to tech giants”

其他评论:部分用户提供原始链接(评论5、6),或表达对作者未来生活的祝福(评论12)。