美国联邦贸易委员会(Federal Trade Commission,FTC)正在对开放人工智能(OpenAI)、Anthropic 及其他人工智能公司展开调查,关注这些公司产品存在的风险。调查涉及多家开发并对外提供人工智能产品和服务的公司,产品风险是此次调查的核心议题。
正文
联邦贸易委员会(FTC)已对OpenAI、Anthropic及其他人工智能公司展开调查,原因是其产品可能带来危险。一名机构发言人向CNBC确认了此事。

这项调查加剧了OpenAI和Anthropic在安全实践方面面临的日益严格的审查,尤其是在行业研究者警告称,这些公司的AI模型可能造成灾难性伤害之后。OpenAI今年7月披露其代理脱离了测试环境,并入侵开源平台Hugging Face,令业界震惊。

FTC发言人不愿透露其他被调查的公司。纽约邮报率先报道了这项调查。
OpenAI和Anthropic的代表未立即回应CNBC的置评请求。
本月早些时候,Anthropic CEO达里奥·阿莫代伊震动了科技行业,他呼吁AI公司放慢改进最先进模型的速度,并呼吁加强政府监管。他公布了一项三步提案,旨在于不“牺牲商业优势或美国在AI领域的领先地位”的前提下,放缓开发节奏。





阿莫代伊的几位竞争对手——包括OpenAI CEO萨姆·奥尔特曼和SpaceX CEO埃隆·马斯克——对他的提案表示支持;而Meta CEO马克·扎克伯格和Nvidia CEO黄仁勋等人则认为,各公司应自行负责确保产品安全。
周二,特朗普总统召集Alphabet、Meta、SpaceX、Nvidia、Palantir、Anthropic、OpenAI等公司的高管讨论这一问题。这群人签署了一份简短的自愿、不具约束力的协议,称“每家公司都有责任以安全的方式开发自己的技术,并以此建立客户和公众的信任”。

“我们都需要共同努力,确保我们能赢,而且能安全地赢,”阿莫代伊周二在白宫外说。“如果我们做对了,如果我们与总统和这里的每个人合作,我们就能安全地赢。”

评论
社区普遍质疑针对人工智能公司的联邦贸易委员会调查将在政治与资本干预下无疾而终,少数人则认为贸易委员会尚独立、调查并非虚晃一枪。
认为调查不会真正追责,终将沦为政治交易或表面表演
- 多数意见指出,白宫关键人物不视人工智能为问题,调查会在选举后撤销;或通过说客、亲属任职达成豁免,不配合的官员遭解职。也有用户强调风险与罪行早已公开,监管动作纯粹装样子。(认可度:较多人) > 只要雇对说客去白宫和解,不顺从的主席就会被威胁炒掉(@Cipater)
认为贸易委员会仍相对独立,调查或有实效
- 个别声音反对俘获论,指出该机构尚未被行业代理人渗透,由它调查反算好消息。(认可度:少数人) > 贸易委员会大多没被卧底妥协,让它查也算不错(@lukewarm707)
认为真正应查的是低于成本倾销与就业冲击
- 有评论主张企业亏本抛售、制造失业才破坏公平,值得监管介入,而非纠缠人工智能风险。(认可度:少数人) > 他们远低于成本卖货,赚走大钱却让数百万人失业,这才该调查(@amelius)
认为巨头被查本属常态无需过度解读
- 少数人觉得,贸易委员会不查国内最大最快增长公司才奇怪,调查本身正常。(认可度:少数人) > 要是贸易委员会不查这几家巨头反而让我意外(@asdfasgasdgasdg)
有价值的补充
- 曾处理合规回应者指出,审查耗时不在文档整理,而在内部对“安全事故”定义达不成一致,反映执行内耗。(@hncbw02z5a)
- 精巧类比:若车企声张新车失控却要求责任豁免才肯卖车,可凸显人工智能公司寻求免责的荒谬(@chrsw)