Hacker News 中文摘要

RSS订阅

Jan——带本地界面的Ollama替代方案 -- Jan – Ollama alternative with local UI

原文链接 | HN讨论 | 2025-08-10 01:36:58

文章摘要

Jan 是一个开源的 ChatGPT 替代品，能够在本地计算机上完全离线运行，提供类似的功能。

文章总结

标题: GitHub - menloresearch/jan: Jan 是一个开源的 ChatGPT 替代品，可在你的计算机上 100% 离线运行

主要内容:

Jan 是一个开源的 AI 助手，能够完全离线运行在你的设备上。它提供了与 ChatGPT 类似的功能，但所有操作都在本地进行，确保用户的数据隐私和完全控制。Jan 支持下载和运行多种大型语言模型（如 Llama、Gemma、Qwen 等），并且可以与 OpenAI、Anthropic、Mistral 等云服务集成。此外，Jan 还提供了自定义助手功能，用户可以根据自己的需求创建专门的 AI 助手。

主要特点: - 本地 AI 模型: 从 HuggingFace 下载并运行大型语言模型。 - 云集成: 支持与 OpenAI、Anthropic、Mistral 等云服务连接。 - 自定义助手: 创建专门的任务助手。 - OpenAI 兼容的 API: 本地服务器运行在 localhost:1337，方便其他应用程序调用。 - 隐私优先: 所有操作都在本地进行，确保数据隐私。

安装: Jan 提供了多种操作系统的安装包，包括 Windows、macOS 和 Linux。用户可以从 jan.ai 或 GitHub Releases 下载最新版本。

从源码构建: 对于开发者，Jan 提供了从源码构建的指南，支持使用 Make 或 Mise 工具进行构建和开发。

系统要求: - macOS: 13.6+，内存需求根据模型大小不同（3B 模型需要 8GB，7B 需要 16GB，13B 需要 32GB）。 - Windows: 10+，支持 NVIDIA/AMD/Intel Arc GPU。 - Linux: 大多数发行版都支持，GPU 加速可用。

贡献: Jan 是一个开源项目，欢迎开发者贡献代码。详细的贡献指南可以在 CONTRIBUTING.md 中找到。

许可证: Jan 采用 Apache 2.0 许可证，允许自由使用和修改。

相关链接: - 文档 - API 参考 - 更新日志 - Discord 社区

Jan 是一个强大的本地 AI 助手，适合那些希望完全控制 AI 操作并保护隐私的用户。

评论总结

  1. Jan的技术问题：多位用户反映Jan在启动和运行中存在技术问题，如无法启动llama服务器、内存分配不合理等。

    • "Tried to run Jan but it does not start llama server. It also tries to allocate 30gb that is the size of the model but my vram is only 10gb and machine is 32gb, so it does not make sense." (roscas)
    • "Tried to run the gpt-oss:20b in ollama (runs perfectly) and tried to connect ollama to jan but it didn't work." (reader9274)

  2. Jan与其他工具的比较：用户对Jan与Ollama、LM Studio等工具的差异和优势表示困惑。

    • "Im confused. Isn’t the whole premise of Ollama that its locally ran? What’s the difference or USP when comparing the two." (biinjo)
    • "How does this compare to LM studio ?" (venkyvb)

  3. Jan的UI和功能问题：部分用户提到Jan的UI存在bug，且功能上存在限制，如无法同时与多个模型交互。

    • "I tried Jan last year, but the UI was quite buggy. But maybe they fixed it." (bogdart)
    • "Main deal breaker for me when I tried it was I couldn't talk to multiple models at once, even if they were remote models on OpenRouter." (apitman)

  4. Jan的隐私和连接问题：有用户指出Jan会频繁连接到GitHub等外部站点，引发隐私担忧。

    • "Another thing that is not good is that it make constant connections to github and other sites." (roscas)

  5. 对Jan的积极评价：尽管存在问题，部分用户对Jan的组织原则表示认可。

    • "I really like Jan, especially the organization's principles." (apitman)

总结：Jan在技术实现、UI体验和功能上存在一些问题，尤其是与Ollama等工具的对比中显得不够清晰。尽管其组织原则受到认可，但用户对其隐私问题和功能限制表示担忧。