Hacker News 中文摘要

RSS订阅

美国企业正加速拥抱开源AI -- Corporate America is getting hooked on open-source AI

上周,人工智能公司Anthropic公布了其AI助手Claude的底层技术细节,使其成为首家公开核心系统运作方式的美国大型AI开发商。此前,OpenAI(OpenAI)和Google(Google)等竞争对手一直将此类信息严格保密,业界普遍担忧AI模型可能失控。

正文

在一场关于人工智能行业未来走向的激烈辩论中,OpenAI 和 Anthropic 这两家顶尖的 AI 公司,正就“开源”这一核心策略产生严重分歧。

OpenAI 的首席执行官 Sam Altman 近期公开表示,公司正在考虑改变其长期以来的闭源策略,未来可能会开源某些人工智能模型。这一言论标志着 OpenAI 立场的重大转变。Altman 在 X(原 Twitter)上写道:“我们正处于重新审视开源策略的早期阶段,我们需要弄清楚开源哪些模型以及在什么条件下开源。”

然而,这一想法在 Anthropic 那里碰了钉子。Anthropic 的联合创始人 Dario Amodei 随即发表长文,严厉批评了开源大型语言模型的做法。他认为,开源最先进的 AI 模型会带来巨大的安全风险,这些行为不仅目光短浅,而且极具危险性。

安全与竞争的博弈

Amodei 在文章中详细阐述了反对开源的理由。他指出,当前最先进的模型具有巨大的破坏潜力,如果落入恶意行为者手中,可能会被用于制造生物武器、发动网络攻击或散布大规模虚假信息。他表示:“在当前的威胁环境下,开源最先进的模型无异于公开分发制造生物武器的蓝图。”

Counterpoint 来自 OpenAI 的支持者。他们主张,开源有助于加速创新,让更多开发者和研究人员能够基于最先进的技术进行构建。此外,开源可以打破大型科技公司对 AI 技术的垄断,促进技术的民主化和透明化。一些开发者认为,透明性本身也是一种安全保障,因为全球的开发者可以共同审查代码,发现潜在的漏洞。

历史上的先例

这并非行业巨头首次面临此类抉择。

在 2019 年,OpenAI 曾因选择不开源某个语言模型而引发争议。当时,该组织担心模型可能被滥用于生成虚假新闻或进行恶意模仿。然而,随着时间推移,其他公司如 Meta 采取了截然相反的策略,发布了 Llama 系列开源模型。Meta 的策略证明,开源模型可以在不造成重大灾难的情况下被广泛使用,并且极大地推动了应用生态的繁荣。

商业现实

除了安全考量,商业利益也是争论的焦点。

Anthropic 和 OpenAI 都投入了数十亿美元用于模型训练,这些模型目前主要通过 API 订阅服务获利。如果免费开源这些模型,将直接冲击其商业模式。

对于 OpenAI 来说,开源还涉及与微软的复杂关系。微软是 OpenAI 的主要投资方和独家云服务提供商。如果 OpenAI 开源其核心模型,微软的 Azure 平台将失去部分独家优势。目前,双方正在就如何平衡开源战略与商业伙伴的利益进行紧张的谈判。

行业的未来

目前,AI 行业正处于一个十字路口。

监管机构也在密切关注这一动向。如果开源模型真的带来了不可控的风险,政府可能会出台更严格的监管措施,强制要求模型保持闭源。反之,如果开源阵营证明了其安全性,未来的 AI 技术可能会走向更加开放和共享的道路。

尽管如此,Dario Amodei 的警告依然掷地有声。他呼吁行业应当建立更严格的自律标准,而不是为了所谓的“开放”而牺牲安全。而 Sam Altman 则依然在谨慎地权衡利弊,试图在商业利益、安全责任和开放理念之间寻找一个微妙的平衡点。

评论

讨论整体对闭源模型厂商的前景持质疑态度,大量用户认为开源模型已具备替代能力,企业转向开源是大势所趋,少数声音则强调企业合规、风险控制和工具体验仍是闭源的核心优势。

认为开源模型已具备替代闭源的能力,企业转向开源是大势所趋

  • 不少用户反馈当前开源模型在代码、通用任务上的表现已接近甚至媲美闭源旗舰模型,搭配更详细的提示词即可达到相近效果,且成本大幅降低,大型公司已经在推进切换计划,闭源厂商若无大幅降价几乎没有生存空间(较多人)
  • 有用户提到开源本地运行还可避免数据外流,满足企业数据安全要求,同时摆脱对不稳定供应商的依赖,避免厂商随意调整规则、 censorship 等风险(高赞) > Anthropic 连基础翻译都拒绝处理,这种 paternalism 说明厂商可能随时以道德理由封禁用户的合理需求,企业不能把核心能力交给潜在竞争对手(@hintymad)
  • 部分用户认为模型本身已无护城河,纯运算能力会成为 commodity,最终像 Linux 一样开源方案会快速普及(较多人)

认为企业采购闭源模型更多出于合规和风险考量,开源大规模落地仍需时间

  • 企业面对法律不确定性时更倾向选择有主体可追责的美国厂商闭源模型,获得法律保障,早年开源软件在企业的普及也经历了漫长的风险验证期(较多人)
  • 有用户指出当前开源模型的配套开发工具体验远不如闭源官方工具,实用性不足,普通企业自行部署的运维成本也会抵消成本优势,大型企业更多是做秀给华尔街看,最终还是会回归闭源服务(较多人) > 企业想展示自己以低成本创新,就像前几年跟风做 RAG 的项目,最终大多会因为运维压力太大而放弃,长期来看还是用大厂的闭源服务更简单更安全(@schopra909)
  • 私募股权投资者尤其警惕供应商锁定,只要开源模型能力达到闭源的 80%-90%,企业就会选择风险更低的方案,不会完全依赖单一闭源厂商(高赞)

认为闭源厂商的商业模式难以为继,行业泡沫已在出清

  • 有用户指出闭源厂商的巨额投入难以通过现有定价收回,已经没有技术壁垒,模型能力竞争已经变成成本、覆盖范围的低水平竞争,OpenAI 和 Anthropic 的 IPO 前景堪忧(较多人)
  • 部分用户认为行业泡沫不是等待破裂,而是已经以资金重新流向开源生态、周边基础设施的方式完成出清,前沿模型研发会逐步转向授权开源模型本地部署,而非直接提供 API 服务(较多人)

有价值的补充

  • 企业早期使用闭源嵌入模型生成的数据会因模型不可复现被锁定,厂商可以随时大幅涨价拿捏用户,开源嵌入模型体积小、本地运行延迟低,更适合企业长期部署,甚至可以基于开源模型做迁移学习保护商业秘密(高赞)
  • 当前企业转向开源的低成本应用中,呼叫转录这类简单任务占比很高,代码开发等高价值场景的迁移进度远低于整体比例,不能简单以使用占比判断开源对闭源的冲击程度(高赞)
  • 美国企业转向开源也有降低对中国模型数据安全顾虑的因素,优先选择美国厂商的开源模型如 Gemma、Llama 获得合规保障(高赞)
  • 个人开发者因公司不愿支付少量订阅费用,也会选择本地运行开源模型完成工作,同时避免敏感数据流出(较多人)