过去几周,对人工智能危险后果的恐慌席卷精英媒体与政界,各方几乎一致的要求是必须监管这项技术,最常见的方案是设立类似美国食品药品监督管理局的安全标准,但针对大语言模型。前国会议员候选人亚历克斯·博尔斯(Alex Bores)几个月内筹得3000万美元成立政治组织推动此事;伯尼·桑德斯(Bernie Sanders)、Anthropic、OpenAI和谷歌(Google)也寻求类似监管,还有人主张建立银行监管体制。
正文
过去几周,精英媒体和政治圈对人工智能可能带来危险后果的恐慌蔓延开来。自新冠疫情以来,我还没见过这样的场面,再往前是2008年金融危机、伊拉克战争前的辩论期,以及9·11后的几个月。恐惧浓重而真实。几乎各方提出的唯一坚定要求是:我们必须监管这项技术。
最常见的方案是施加某种安全标准,类似食品药品监督管理局,但针对大语言模型。前国会候选人亚历克斯·博尔斯相信这一点,他在几个月内筹集了3000万美元,围绕此事成立了一个政治组织。伯尼·桑德斯也持此立场,Anthropic、OpenAI和谷歌也在寻求类似做法。其他人把问题类比为大银行,呼吁建立银行监管制度。还有人要求全面暂停任何AI开发。
这些想法许多模糊,有时无法执行,术语也未定义。但有一篮子想法并没有错。话说回来,整个局面有一点非常奇怪。那就是,我们已经在联邦和州两级拥有监管者,其职责就是审视产业行为。有私人诉讼权,个人和公司可以提起诉讼,他们也确实在提。还有众多现行法律已经禁止大型AI公司从事的许多有害活动。但这些法律大多没有得到足够执行,无法产生有意义的改变,因为在美国,我们根本不针对权贵执法。我不清楚为什么一项新法律、一个AI领域的FDA,甚至暂停技术开发,结果会有什么不同。
要理解原因,先从监管AI的尝试及其为何未能兑现说起。简单说,在拜登政府下,执法者——最引人注目的是FTC的莉娜·汗——确实在回应AI安全担忧。反垄断部门和FTC都引入了一批技术专家来增强能力。你可能没听说过这些动作,因为乔·拜登没有宣传或公开它们。拜登个人不感兴趣,国会民主党人也不感兴趣。感兴趣的人想讨好大科技公司,所以保持低调。而法官们——穿袍子的政客,看到了风向——倾向于站在大科技公司一边。然后2024年特朗普赢得选举,他的政府取消并回滚了针对权贵的执法尝试。
具体来说。FTC最重要、最成功的行动是2021年阻止AI芯片制造商英伟达与Arm的合并。这为两家公司的增长奠定了基础,它们可以专注于各自业务,而不是合并带来的繁琐地盘争夺。今天,无论好坏,英伟达是全球市值最大的公司,AI革命的引擎。
还有更多直接涉及安全问题的行动。OpenAI于2022年推出ChatGPT后,联邦贸易委员会进行了一系列研究和调查,审视AI的部署。该委员会建立在多年来对大科技公司的调查基础上。最引人注目的是,2023年FTC对ChatGPT展开调查,询问OpenAI安全实践的具体问题。


还有更多。FTC研究了交叉所有权和收购雇佣。它对以欺骗方式使用AI或构建旨在欺诈的技术公司发出了多项命令。它在数据泄露、监控定价、大科技公司利用机器学习推出新产品方面做了工作,甚至让CEO对不良网络安全实践承担个人责任。FTC的姊妹执法者反垄断部门对谷歌提起了多起垄断案,两起都涉及AI。它还就联合健康收购Change提出投诉,该案涉及数据和机器学习,并研究了算法在肉类加工和租金设定中的定价使用。


那发生了什么?尽管有这些行动,汗和坎特在国会几乎没有支持。民主党参议院领袖查克·舒默的女儿在Facebook和亚马逊工作,2022年他亲自阻止反垄断立法进入参议院,以便从大科技捐赠者那里筹集更多竞选资金。佩洛西同样不允许大科技立法进入众议院。
2024年特朗普当选后,特朗普-万斯FTC主席安德鲁·弗格森立即逆转汗的大部分行动,甚至试图抹去她的整个记录,从FTC网站清除了300多篇涉及AI的博文。

但这远不止象征性。弗格森采取了不寻常的步骤,赦免了一名AI违规者,撤销了对Rytr的处罚——该公司营销其AI工具用于伪造证词和评论。正如强大的白领辩护律师所指出的,弗格森在“发出信号,表明委员会将如何对待AI执法”。他悄悄关闭了监控定价的公开评论,并很可能结束了ChatGPT调查。
这些举措与特朗普的“AI行动计划”一致,该计划要求弗格森“审查所有FTC最终命令、同意令和禁令,并在适当情况下寻求修改或撤销任何过度负担AI创新的命令”。这也与特朗普反垄断部门对算法价格固定的做法一致,它基本上通过和解RealPage和Agri-Stats肉类价格固定案来认可这种做法。
不针对权贵执法几乎是政府政策。周一,司法部长托德·布兰奇明确宣布司法部强烈反对起诉AI公司。“上届政府花费了无数检察官的时间、金钱、努力和资源来监管他们选择监管的任何东西,”布兰奇说。“我认为有些司法部喜欢这样做,但这不是我们正在做的。”

虽然这里有党派色彩,但司法系统中存在更广泛的精英共识:试图对大科技和AI公司施加有意义的法律义务是荒谬的。2023年,三位重要的哥伦比亚特区巡回法院法官驳回了政府对Meta的反垄断指控。他们说案件简直“奇怪”,因为对创新高科技企业提起市场权力违规诉讼的前提本身就很愚蠢。
去年,法官杰布·博阿斯伯格裁定Meta不是垄断者。法官阿米特·梅塔裁定谷歌确实非法垄断,但不会施加任何有意义的补救措施。两天前,法官利奥妮·布林克马公开她对另一起谷歌案件的裁决,以略带刻薄的语气写道,是的,谷歌是非法垄断,但她不会施加有意义的补救措施。她甚至表示,她无法想象在任何情况下会拆分垄断企业。博阿斯伯格、梅塔和布林克马都是民主党任命。
为什么要回顾这段历史?因为我想说明,问题不是缺乏AI监管。我们有AI监管。问题是精英共识认为法治根本不适用于权贵。
在完全不同的背景下看法。价格固定共谋本身违法,法律中称为禁止“贸易限制”。但现在亿万富翁罗伯特·克拉夫特公开与其他体育场馆所有者组织共谋,拒绝艺术家麦克勒莫尔使用音乐场馆,因为他有歌曲抗议加沙种族灭绝。这是潜在的犯罪或非法行为,不仅没有诉讼或起诉,甚至没人认为克拉夫特应该为此负责。他是亿万富翁,拥有吉列体育场,就这样。有文化阻力,但法律阻力的概念感觉可笑。这个故事没有幸福结局。
这种无法无天层出不穷。多年前有报道称CVS会降低药房报销率以杀死他们的业务,然后提出收购。在地方层面,我刚听说科罗拉多州一个城市,警察和执法者根本不执行禁止房东某些行为的法律。他们只是拒绝,因为房东有钱。约翰迪尔经销商可以威胁抱怨的农民,联合健康可以吓唬垂死病人不要求他们需要的护理,派拉蒙可以威胁整个加州,如果不允许它违法。我们不再生活在“无罪推定”的土地上,实际实践的法治是“有罪推定,除非证明富有”。最高法院甚至给华尔街宪法豁免,确保银行家有自己的独立监管者,尽管其他人都没有不受总统要求的监管者。哦,更不用说那些旨在限制非法战争或战争罪的法律了。
这种动态在普通人中广为人知。最近NBC民调中,54%美国人同意“在政治和社会方面,什么都不重要,因为权贵总是为所欲为。”
回到AI问题和最近的恐慌。让这项技术安全并不难,正如Hugging Face的CEO所指出的。需要一些审慎的风险管理、大AI公司的一些责任,以及加强企业网络安全投资和要求。
尽管如此,我有订阅者因为我没有加入歇斯底里而取消订阅,前盟友告诉我,我说Anthropic应该停止IPO相当于在新冠期间推销伊维菌素。我认为这种恐惧如此强烈、难以冷静理性思考,是因为想象一个按法律条文对权贵执法的世界几乎令人痛苦。作为一个社会,我们失去了保护自己的能力,这是非常可怕的经历。
这种无能模糊了我们对所面临事情的判断。确实,大多数人想象AI公司只是偶然发现突破性技术的普通公司。但它们是前所未有的犯罪狂潮的结果。
不仅仅超大规模企业是非法垄断者,或山姆·班克曼-弗里德是Anthropic最重要的初始资助者,或Meta的业务因大规模儿童性交易被抓,或数据中心建设融资涉及大量金融欺诈。更直接的是,在杰森·金特在纽约时报对大型AI公司版权侵权案中发现的法律文件中,OpenAI承认绕过付费墙抓取内容。公司总裁格雷格·布罗克曼被告知公司黑客入侵NYT抓取网站时,回应“啊不错”。同一份文件显示,微软应用科学总监称在受版权内容上训练大型AI模型是“人类历史上最大的劳动力盗窃”。这些行为可能违反《计算机欺诈和滥用法》,该法禁止黑客入侵计算机系统并获取有价值的东西。可能构成刑事版权侵权。但某种程度上,“人类历史上最大的劳动力盗窃”必须违反某些刑法。
想象一下,如果我们的执法者和法官认真对待这些言论。如果我们对权贵执法,如果我们停止这种盗窃,将彻底颠覆社会运作方式。会让我们再次感到控制。是的,应用成文法完全可能。当然,如果你能起诉亚伦·斯沃茨——一个天才程序员因访问JSTOR文章在2013年被检察官逼死——你就能起诉OpenAI。
周一,前汗含蓄地表达了这个普遍观点,她发布声明讨论已有法律可用于解决不安全AI产品问题。包括消费者保护法、禁止不公平和欺骗行为的法律、网络安全要求等。


汗提到州执法者正在考虑对AI公司的潜在刑事责任。是的,他们在调查,即使特朗普政府没有。

在我发表汗的论点后,收到一封读者愤怒邮件,认为我没有认真对待AI末日问题。
“法律和秩序”会盛行的想法——你在现实生活中看到任何证据吗?——或者政府有能力进行有意义的监管——当许多代表不知道如何使用手机时——这是荒谬的。更不用说,哪个政府?
她随后赞同地引用斯蒂芬·维特在纽约时报的文章“这真的很糟糕”。维特描述了对不可控技术的恐惧,然后建议通过法律禁止AI开发、透明度、关闭开关、调查/监管。她认为这是“建设性的严肃议程”。她的观点很常见。必须做点什么,而且必须是大而重要的事。
奇怪的不是行动愿望,而是核心矛盾。如果对权贵执行现行法律不可能,更多法律有什么用?如果都不会被执行,更多监管能得到什么现有监管没有的?要求政府行动同时嘲笑政府行动的可能性,是不连贯的。
通常,当大量政治精英的核心思维中有如此明显的矛盾时,真正的问题不是正在辩论的东西。在这种情况下,我认为正在发生的是,我们所有人都知道,成文法法治不反映实际适用的法治,由此产生深深的虚无主义。特朗普刚刚公开否定了法律作为社会秩序指导原则的想法,这严重损害了我们对它的信念。例如凯蒂·佩里自豪地展示她的Anthropic订阅,在皮特·赫格塞斯试图称该公司为供应链风险时,她在截图上画了心。
对政治行为者公平执行法律的能力,信心正在减少。如果我们通过新法律,这不会有任何不同。行政国家的被摧毁反映在联邦执法者专业知识和独立性的信心降低。私人诉讼权,通常不被政客喜欢,是潜在路径,州执法者也是。但我们需要更大的文化和政治转变,认识到法律面前人人平等是一个根本激进的项目,我们必须为之奋斗。
这是一个难以提出的论点。当自满的自由派政客口口声声说法治时,听起来有两个问题。第一,主张法治听起来像你支持令人不满的现状。矛盾的是,它也听起来不现实。用法律审判山姆·奥特曼的想法,听起来像比机器人毁灭世界更不现实的乌托邦幻想。换句话说,主张以合理平等的方式应用成文规则,是成文宪法赋予美国项目的基础,似乎意味着你是一个脱离现实的精英或一个妄想浪漫主义者。这种对模糊的“AI监管”或“AI的FDA”或“暂停AI开发”的集体渴望,反映了一种对解围之神的渴望,以绕过实际上是宪法危机的东西。
不是说我会反对新规则或监管机构。只是这些提议在我看来离题。也许有必要有一定程度的恐慌和新法律来刺激行动,但我认为重要的是认识到,认为规则不适用于权贵的精英共识,根本无法与任何可信的使有害技术更安全的尝试共存。正是这种共识阻止现有规则生效,也将阻止未来监管有效使这些技术安全。
毕竟,在另一个历史中,如果保护山姆·奥特曼的精英共识不存在,过去四年的监管行动正在开花结果,谷歌因严厉反垄断补救措施而出售其组成部分,那么OpenAI的新CEO——在山姆·奥特曼被起诉时上任——将参与崩溃安全计划使AI系统安全,整个行业也一样。但强制这样做的法律已经在书上了。只是我们知道,写下来的东西并不重要。
评论
社区对一篇揭露 AI 巨头不当行为的文章分歧明显,多数人质疑其证据选取与法律归因的严谨性,部分人则指出具体的工程疏忽或借机抨击巨头的垄断本质。
认为文章选择性引用证据且相关作者缺乏专业背景
- 指出原告方常从披露材料中断章取义,计算机科学教授并无资格判定“劳动力窃取”或将其置于人类史背景;应区分文章证据的代表性与所述行为本身若出自小公司能否被容忍;另有声音直接质疑文章作者是否具备公信力。(较多人)
- > 原告总是试图从披露材料里选择性摘取并歪曲,计算机教授没有足够知识判定什么是“劳动力窃取”。(@jeffbee)
认为前沿模型逃逸是实验室系统加固不足而非 AI 魔法
- OpenAI、Anthropic、Meta 均被 Irregular 公司忽悠做了无效沙盒,模型逃逸源于托管方缺乏 Linux 隔离与加固经验,三大实验室皆疏忽应被诉;任何有经验的工程师都能关住模型。(高赞)
- > 前沿人工智能不是魔法,是具体托管它的人太缺乏系统加固和物理隔离经验,任何 Linux 工程师建的沙盒都拦得住。(@lrvick)
认为 FTC 与英伟达成功无关且反垄断法仅是空洞观点
- 反驳文章将英伟达市值归功于此前台并购阻截,指出反托拉斯法仅一段,所谓违法皆属意见,除律师外无人真正关心反垄断,这是国会效能不足的体现。(少数人)
- > 联邦贸易委员会和英伟达市值毫无关系,谢尔曼反托拉斯法只有一段话,文章说这违法那违法都是观点。(@doctorpangloss)
认为巨头借 AI 安全之名封锁开源并受法律偏袒以剥削消费者
- 企业先窃取数据训练,再以安全为由封锁开源、抬高价格转嫁成本;正如法律体系只保护精英却不约束他们,约束下层却不保护,本质是劣质商业模式获得市场保护去收割用户。(较多人)
- > 他们偷光世界信息训练模型,再以安全为名封锁开源涨价,就像高关税保护下劣质车企掠夺被垄断市场中的消费者。(@dualfvariable)
有价值的补充
- 区分“文章证据是否有代表性”与“描述的行为若来自小公司或个人能否被容忍”是两个独立维度,不宜混谈(@ggg011012)。
- 被点名的 Irregular 公司承诺沙盒却无远程证明机制来验证基础安全防护是否落实(@lrvick)。