文章摘要
文章批评Ollama虽然是最流行的本地运行大模型工具,但其核心技术完全依赖llama.cpp项目,却长期隐瞒这一事实,误导用户。作者指出Ollama背离了最初推动本地AI的使命,在获得风投后逐渐商业化,建议用户转向其他更透明的工具。
文章总结
标题:朋友不会让朋友使用Ollama
Ollama是最流行的本地运行大型语言模型(LLM)的工具,但它本不该如此。它之所以能占据这一地位,仅仅因为它是第一个让不想编译C++或自行配置服务器的用户能够轻松使用llama.cpp的工具。虽然这一贡献曾短暂地有意义,但该项目多年来一直刻意模糊其技术来源,误导用户关于他们实际运行的内容,并逐渐背离了最初赢得信任的“本地优先”使命——这一切都是在接受风险投资的情况下发生的。
遗忘根源的llama.cpp封装器
Ollama的全部推理能力都源自Georgi Gerganov于2023年3月创建的llama.cpp。这个C++推理引擎首次实现了在消费级笔记本电脑上运行LLaMA模型,如今已成为几乎所有基于GGUF工具的基础。然而,Ollama在其README中长达一年未提及llama.cpp,也未在其分发的二进制文件中包含必要的MIT许可证声明。直到社区多次抗议后,Ollama才在README底部添加了一行不显眼的致谢。
失败的技术分叉
2025年,Ollama宣称为了稳定性,弃用llama.cpp转而在底层张量库ggml上自建后端。结果却重现了llama.cpp早已解决的错误,导致模型兼容性问题和性能下降。基准测试显示,相同硬件上llama.cpp的速度比Ollama快1.8倍。Georgi Gerganov本人指出,Ollama的分叉版本对GGML进行了错误修改。
误导性模型命名
当DeepSeek发布R1模型系列时,Ollama将蒸馏版小模型(如DeepSeek-R1-Distill-Qwen-32B)直接命名为“DeepSeek-R1”,导致用户误以为能在消费级硬件上运行原始6710亿参数的大模型。这种命名策略虽然提高了下载量,却损害了DeepSeek的声誉。
封闭化的趋势
2025年7月,Ollama发布了一款没有许可证的闭源桌面应用,与其开源形象背道而驰。尽管代码最终被合并至主仓库,这一举动暴露了项目的真实倾向。同年末,这个以本地隐私为卖点的工具开始将用户提示词路由至第三方云服务,甚至出现令牌泄露漏洞(CVE-2025-51471),进一步动摇用户信任。
风险投资驱动的商业模式
Ollama的发展轨迹遵循典型VC套路:利用开源项目(llama.cpp)建立用户基础→弱化上游依赖→创建专有模型注册表格式实现锁定→推出闭源组件→转向云服务变现。其模型存储采用哈希文件名,刻意增加用户转向其他工具的摩擦。
更好的替代方案
- llama.cpp:直接使用原版,提供更优性能和完整控制
- LM Studio/Jan:开源GUI方案,无厂商锁定
- ramalama:明确标注上游依赖的容器化方案 这些工具设置简单,且真正尊重开源精神。
本质问题
Ollama将社区成果包装成商业产品,却在每个关键节点选择对投资者而非用户有利的路径。本地LLM生态的核心始终是llama.cpp及其贡献者群体——而更好的封装工具早已存在。
评论总结
以下是评论内容的总结:
支持Ollama的观点: 1. 使用便捷性高:用户赞赏Ollama的简单命令操作和模型热切换功能。 - "ollama pull model"一键获取模型,"ollama rm"轻松删除 (评论7) - "热切换不同功能的模型非常方便,无需重启服务" (评论4)
- 用户体验友好:相比llama.cpp,Ollama对普通用户更友好。
- "Ollama比llama.cpp简单1000倍,后者根本不关心普通用户" (评论8)
- "一个命令就能运行模型,连ROCM驱动都不用操心" (评论13)
批评Ollama的观点: 1. 性能问题:多个用户指出Ollama存在性能缺陷。 - "运行相同模型时,llama.cpp明显更快" (评论11) - "连接处理糟糕到无法正常下载" (评论3)
商业策略争议:被质疑采用"开源包装后商业垄断"的模式。
- "典型的YC套路:先用开源建立信任,再逐步制造锁定" (评论15)
- "缺失对开源项目的归属声明很恶劣" (评论16)
技术限制:
- "无法自定义模型存储路径,必须通过繁琐的Docker流程" (评论2)
- "有状态守护进程设计不适合生产环境" (评论18)
中立/其他观点: 1. 历史疑问:有人质疑Ollama在llama.cpp发布前的技术基础 (评论9) 2. 替代方案:部分用户推荐LM Studio、llama-server等其他工具 (评论2,18) 3. 比喻讨论:将AI模型比作视频编解码器,质疑为何不能像VLC那样标准化 (评论12)
关键分歧点集中在用户体验与技术开放性之间的权衡,以及商业公司对开源生态的影响。