随着通用人工智能（AGI）临近，DeepMind研究所（DeepMind Institute）正式成立。在它看来，人们迫切需要跨学科的思考，才能更好地理解AGI对人类的深远影响。谢恩·莱格（Shane Legg）、詹姆斯·曼伊卡（James Manyika）与戴密斯·哈萨比斯（Demis Hassabis）联合撰文介绍这家新机构，它脱胎于最早开创这一领域的实验室。

来自开创该领域的实验室，关于 AGI 的大胆思考

介绍 DeepMind Institute

随着我们接近 AGI，迫切需要跨学科思考，来更好地理解它对人类的深远影响。Shane Legg、James Manyika、Demis Hassabis

推理透明度的理由

读取 AI 的“思维链”让我们得以窥见它的推理过程，从而可以监控它是否在谋划和欺骗。我们必须努力让这扇窗保持敞开。Rohin Shah、Anca Dragan

面向 AGI 的经济政策

本文评估了社会可以实施的十一项政策，以应对日益先进和普及的 AI 可能带来的经济冲击。Julian Jacobs、Alex Imas

新乌托邦主义的原则

如果 AGI 要改变社会，我们必须决定想要什么样的改变。借鉴二十世纪的动荡，本文提出一种谦逊而充满希望的务实乌托邦主义。Stephen Cave

前沿 AI 的框架与新时代的黎明

一种动态方法，用于测试前沿 AI 模型的能力，既支持创新，又激励负责任的行为。本文最初发表于 X。Demis Hassabis

讨论整体偏怀疑：多数人认为这个"研究所"只是 Google 换了个招牌的对外发声渠道，分歧在于它到底是认真做研究，还是为影响 AI 政策而设；对"AGI 近在眼前"的说法几乎没人买账，只有少数人为其研究质量辩护。

认为这不过是换了招牌的对外发声渠道

• 有评论直接点破：它既不是新组织，也不是非营利研究所，本质就是一个博客平台（较多人）
• 另一派认为它是内部智库，目的在于引导 AI 政策讨论，配套的仍是那套耸动的预言话术（较多人）
• 顺带一提，网站字体灰到快读不出来，也成了吐槽点（少数人） > 只是一个新门面，没什么可看的。（@chrisjj）

认为"AGI 即将到来"的说法缺乏依据

• 对"系统具备人脑全部认知能力"这类表述，有人讽刺说连被切掉大半脑叶的人都比不上（较多人）
• 也有人主张问题如此之难，这十年其实没有实质推进，大语言模型的短板仍摆在眼前（较多人） > 这些实验室不断抛出完全没有根据的说法，说什么 AGI 近在眼前。（@totallygeeky）

认为审慎姿态源于竞争格局，而非理念

• 递归式自我改进会放大先发优势；一方快速试错、一方反复衡量，后者很难保住优势；本就落后的 Google 最乐意加入"放慢前沿"的呼吁（少数人）
• 持此论者认为，OpenAI 掌门人只能假装认同这些主张（少数人） > Altman 别无选择，只能装作同意这些想法，他还能说什么？（@credit_guy）

认为部分内容比实验室掌门人的博文更扎实

• 经济政策那篇给出了更快的度量方式、从轻微到剧烈扰动的三种情景、失业保险与劳动所得税抵免等温和政策，以及"持有 AI 利润份额"的激进方案（少数人）
• 不应把它和 Sam、Dario 的博客文章或演讲归为一类（少数人） > 把它当成和 Sam、Dario 的博文同一档次，既错误又偷懒，这些是真正的研究论文。（@spyckie2）

有价值的补充

• 用 AI 评估者为政策打分遭人吐槽，但有评论反将一军：学术论文的评审常常也不过是一个还没工作过的博士生，加上陪他通宵、提供"感觉"的舍友——这个类比相当精巧。
• Google 引用 Mark Fisher 让不少人措手不及，被戏称为"后现代地狱世界宾果卡"上终于被划掉的一格。
• 有人注意到当天大多数头条链接都由同一个注册仅 11 天的账号提交。