文章摘要
作者David Siegel回忆与开源运动创始人Richard Stallman的辩论,最初认为软件应受专有控制,但最终被说服:软件是知识,应自由共享以促进进步。
文章总结
在20世纪80年代,我曾与开源运动创始人理查德·斯托曼就自由开源软件进行过长达数年的辩论。当时我坚持传统观点,认为只有公司对代码保持专有控制,软件才能进步。但斯托曼说服了我:软件不仅是商业资产,更是知识体系,而知识在共享中才能更强大。他创立的自由软件运动最终演变为今天的开源运动,其核心原则是让所有人能研究、修改、改进并分享软件。他编写的GCC编译器和GNU/Linux操作系统至今支撑着互联网运行,现代世界正是建立在开源和开放开发原则之上。
关于安全性的争论曾认为隐藏软件才能保障安全,但事实证明透明度更胜一筹——全球开发者社区能共同发现并修复问题,而隐藏只会让人心存侥幸。开源还以更隐蔽的方式加速了科技发展:活跃的开源社区成为工程师学习的教科书,而封闭系统几乎无法培养人才。过去几十年,私营公司、大学和数万志愿者共同构建了开源生态,支撑起众多成功企业。专有软件自有其价值,但开源始终是技术进步的基石,我们应当警惕其被侵蚀。
如今人工智能正重蹈覆辙。前沿AI模型正全面走向封闭,且趋势加速。在科学尚处早期、突破性成果尚未到来之际,封闭领域恰恰最需要知识共享。斯托曼的直觉源于大学科研传统——研究公开出版供人借鉴,社会进步正依赖这种共享。若未来科学依赖AI,将AI锁在少数公司内部,就等于锁住了科学进步。想象一下图书馆被少数公司收购、决定我们可读之书的情景——封闭的AI正是这样的未来图书馆,你只能按所有者规定的方式进入。
更深层的问题是,当少数公司决定模型能做什么、如何得出答案时,依赖者将无法完全理解结果。医生依赖模型诊断、工程师信任其设计、法官参考其判决、普通人询问其建议——他们都可能陷入困境。模型所谓的解释并非审计,而是事后编造的合理故事。明年再问同样问题可能得到不同答案,却无从知晓是世界变了还是供应商改了。依赖这种系统的人不是在运用理解的工具,而是在信任无法检验的神谕。
反对开放AI的常见理由是安全风险。这值得认真对待,但结论站不住脚。我们不会因科学可能被滥用就将其分类,而是通过监控和规则保持基础开放。封闭模型并不安全——它们会泄露、被破解,且集中化本身带来危险:少数公司决定他人能构建什么。真正的问题不是开放模型是否带来风险,而是它们是否在已有风险基础上增加了实质性风险。
需要区分两种代码:运行模型的代码和构建模型的代码。能运行模型固然有用,但更重要的是能看到构建过程:制造它的代码和训练它的数据。这种透明度正在最快消失。如今被标榜为开放的模型(来自中国领先实验室和美国公司)只发布运行代码,却隐藏构建代码和训练数据。你得到的只是一堆能运行却无法解释的魔法数字。这种开放随时可能被关闭,不是基础而是恩惠。我们应同时拥有开放模型本身和开源代码,让所有人能使用、构建并理解这些系统。
这并非反对AI公司,而是希望它们不是唯一选择。私营AI无需辩护,而开源AI缺乏支持者,最容易被遗忘。前进道路并不复杂:前沿模型规模越来越大、成本越来越高,但开源AI不必匹配其规模就能发挥作用。世界所需的大部分功能可能不需要绝对前沿。当需要大量算力维持可信开源选项时,这正是值得投资的公共产品。政府、私营部门和非营利组织应大力投资自由开源AI——就像当年投资开源软件一样:为开放研究提供公共算力资助,支持大学和非营利组织,并规定公共资金构建的AI默认开放。我们曾做过这个实验,知道结果如何,不要忘记这个教训。
评论总结
根据评论内容,主要观点和论据如下:
观点一:反对政府资助AI,主张优先投入民生 - 评论1(评分:无)认为,与其资助公众厌恶的AI技术,不如用于全民托儿、全民医保和免费学校午餐。关键引用:"I'd rather the US fund universal childcare, medicare for all, and free school lunches than give a cent to subsidize a technology the American public absolute hates." - 评论6(评分:无)讽刺称“纳税人应资助我的爱好”,暗示AI资助是个人兴趣而非公共利益。关键引用:"'Tax payers should fund my hobby' Fixed the title for you."
观点二:开源AI面临商业竞争压力,需创新激励 - 评论2(评分:无)指出,商业AI因开发者全职投入而占优,开源仅靠善意和兼职难以匹敌。关键引用:"Commercial AI will usually dominate because devs are paid to make it their primary effort. Goodwill and part-time contributions cannot reliably compete with livelihood and profit incentives." - 评论3(评分:无)建议设立定向奖励(如200K美元),针对特定VRAM和基准测试,以激励开源模型发展,并强调认可度比奖金更重要。关键引用:"We really need to band together to fund / sponsor targeted inducement prizes... it's the clear recognition that helps their model efforts stand out."
观点三:开源与闭源各有价值,市场应自由选择 - 评论4(评分:无)认为,闭源不阻碍知识共享,开源模型更便宜且适合多数任务,市场会自然决定。关键引用:"Just because a software is closed-source doesn't mean the knowledge can't be shared... LLMs will become analogous to programming languages, and big labs will make their money by fine-tuning models for very specific use cases."
观点四:反对政府过度干预AI,建议征税 - 评论7(评分:无)强烈反对政府投资AI,将其比作金字塔骗局,建议对AI用GPU征收999%的税。关键引用:"this is like saying 'gov should invest in pyramid schem'... add a 999% tax or tarif on top of GPUs bougth for AI."
其他评论:评论5仅提供文章链接,无实质观点。