Hacker News 中文摘要

RSS订阅

反对开源人工智能的论点是站不住脚的 -- The arguments against open source AI are bad

文章摘要

文章批评了反对开源AI的论点,指出开源模型并非危险威胁,而是商业软件的基础。作者认为,将开源AI视为“公共物品”并主张限制其使用的观点站不住脚,开源实际上促进了创新和普及。

文章总结

好的,这是根据您的要求,对原文主要内容进行的中文重述,保留了核心细节,并删减了与主题无关的脚注和部分延伸讨论。


标题:反对开源AI的论据非常糟糕

Kimi K3的发布引发了新一轮的焦虑和混乱的讨论。一些记者、商界领袖和政治家认为开源AI是危险的威胁。前沿实验室反对开源AI的论据本质上是:开源模型是危险的(而且不美国!)。他们认为应该打开AI的潘多拉魔盒,但必须由负责任的守门人(最好是我们自己)来掌控,只有受信任的用户(我们最赚钱的客户)才能使用。

开源软件是商业软件的基石

反对者忽略了开源软件是所有专有软件(包括前沿模型)的基础这一事实。一个软件程序是由层层堆叠的程序构成的。要构建一个商业应用,你需要编程语言框架、网络通信软件、数据分析工具等无数组件。这些底层组件通常不是商业企业的差异化优势,因此商业参与者合作开发底层组件,并在能真正区分产品的上层进行竞争,是符合逻辑的。前沿实验室非常希望AI模型不要落入“过于普遍以至于不值得竞争”的范畴。

开源软件极难被压制

历史告诉我们,压制开源软件极其困难,尝试这样做只会削弱本国公司,使其在国际竞争中处于劣势。以加密技术的历史为例:PGP和SSL等工具曾因被视为军事技术而受到美国政府的出口管制,但这些管制适得其反,反而让削弱版在全球(甚至美国国内)广泛使用,最终法院裁定发布加密源代码是受保护的言论,美国政府也放松了管制。

将压制目标缩小到“中国模型”并不会让事情变得简单。什么才算是“中国模型”?如果它是由美国模型蒸馏而来呢?如果美国公司微调了一个中国模型呢?最坏的情况是,这种监管方式只会暂时用繁文缛节束缚美国人,并减少他们获取AI的途径,而世界其他地区则不受影响。

开源AI并非中国独有的现象

认为只有中国政府有动力开发开源模型是一种误解。实际上,许多商业参与者都有充分的动机:

  • 芯片制造商:英伟达不关心其芯片用于运行前沿模型还是廉价的开源模型,它只想尽可能多地生产和创造对“token”的需求。英伟达自己也发布了开源模型。
  • 美国初创公司:一些公司押注模型将商品化,可以通过围绕模型提供辅助服务(如定制化)来构建护城河。
  • 企业AI用户:他们希望为低复杂度任务使用低成本模型,并对面向客户的功能拥有更精细的控制。
  • 大型科技公司:如果前沿模型的广告产品获得成功,像谷歌和Meta这样的巨头很可能会通过商品化无广告的开源模型来压制广告领域的竞争。

“AI竞赛”的目标究竟是什么?

围绕中国模型的焦虑很大程度上集中在“输掉AI竞赛”上。但这场竞赛的目标是什么?是开发最好的模型?卖出最多的token?还是最先毁灭人类?谈论“AI竞赛”并不比谈论“互联网竞赛”更有意义。我们不是在竞争谁先登月,而是在应对一项新的变革性技术。如果国家之间存在竞赛,那也是在吸收这场技术变革并发展经济。在这种框架下,免费的AI模型是福音,而非威胁。

恐惧中国AI模型的糟糕论据

  • “中国在AI倾销!”:与太阳能电池板或钢铁不同,AI不是实体商品。实体商品需要物理供应链,而软件不是这样。一个来自中国的开源模型并不会阻止美国公司成功开展微调业务,恰恰相反。
  • “他们会传播宣传!”:假设中国模型带有亲华观点并非不合理。但这不是压制它们的理由。模型是开源的!如果任何美国人对中国AI模型的政治倾向有意见,他们完全可以自由地修改并发布一个“美国化”的版本。在美国,很难想象一个带有扭曲亲华偏见的模型能胜过功能相似但带有扭曲亲美偏见的模型。
  • “他们会添加后门!”:AI并没有改变漏洞市场的基本规律:负责任的参与者修补漏洞,攻击者利用漏洞。限制负责任的参与者只会帮助攻击者。理论上,恶意行为者可以在模型中嵌入隐藏的对抗性行为。但如果发生这种情况,最好的应对方式是让尽可能多的人去检查模型,以便尽快发现这些漏洞。

结论:开源AI势不可挡

政策制定者或商业领袖想要什么并不重要:开源AI太强大,也太难控制了。它即将到来,任何试图压制它的努力都只会是过程中的噪音。

评论总结

根据评论内容,主要观点和论据如下:

支持开源AI的观点: - 反对开源权重AI的论点同样适用于闭源AI,且开源已无法阻止(评论2) - 监管捕获是主要动机,如Anthropic声称“AI危险”旨在获取监管优势(评论12) - 开源有助于发现模型中的隐藏恶意行为(评论7)

反对开源AI的观点: - 开源权重可被微调用于恶意目的,如自动化诈骗或黑客攻击(评论3、4) - 模型中毒难以检测,引用微软等研究(评论7) - 中国模型可能含有后门,难以全面审计(评论10)

对文章本身的批评: - 未提及安全问题,是重大缺陷(评论9) - 混淆“开源”与“开放权重”,中国模型仅开放权重而非源代码(评论11)

其他观点: - 公众易受媒体误导,将开源与共产主义关联的言论令人沮丧(评论8) - AI竞赛的目标不明确,可能指向超级武器或奇点(评论6) - 员工言论可能引发与政府冲突(评论1)

关键引用: - “The only good arguments I see against open weight AI also apply to closed AI.”(评论2) - “What's to stop bad actors from fine tuning open weights to run fully automated genius-level scams?”(评论3) - “This post does not mention safety at all.”(评论9) - “This is not 'open source' AI... All they're doing is allowing you to run their binary yourself.”(评论11)