Hacker News 中文摘要

RSS订阅

Darkbloom——闲置Mac上的隐私推理 -- Darkbloom – Private inference on idle Macs

文章摘要

Darkbloom是一个去中心化AI推理网络,利用闲置的苹果芯片设备提供低成本隐私保护服务。它绕过传统GPU厂商-云服务商-API提供商的三层加价环节,直接连接闲置设备和用户需求,可降低70%成本。设备所有者保留95%收入,用户通过端到端加密获得OpenAI兼容服务,包括聊天、图像生成等功能。

文章总结

暗花(Darkbloom):基于苹果芯片的私有AI推理网络

核心概念

暗花是一个去中心化AI推理网络,利用全球超过1亿台闲置的苹果芯片设备(如Mac)提供低成本、高隐私的AI服务。通过消除传统云计算中间商,用户可节省高达70%的成本,而设备持有者能保留95%的收益。


关键优势

用户侧
- 成本减半:闲置硬件边际成本趋近于零,价格仅为集中式服务的50%
- 全兼容API:支持文本生成(如Gemma 4 26B)、图像生成(FLUX.2)、语音转文字(Cohere Transcribe)
- 端到端加密:所有请求数据全程加密,运营商无法查看

硬件所有者侧
- 闲置变现:利用现有设备赚取收益,电费仅需$0.01–0.03/小时
- 零抽成:100%推理收入归设备所有者,年收益可达$12,000(以M1 Ultra为例)


行业痛点

现有AI计算市场存在三重加价:
1. 英伟达出售GPU给云服务商(AWS/谷歌云/Azure)
2. 云服务商加价租给AI公司
3. AI公司再次加价面向终端用户
导致终端价格可达硬件实际成本的3倍以上。

暗花的突破
- 直接连接1亿台闲置苹果设备(日均闲置18小时)
- 统一内存架构+神经引擎,支持千亿参数模型推理


隐私保障技术(四大核心层)

  1. 加密层:用户端预先加密,仅目标设备可解密
  2. 硬件层:基于苹果安全芯片生成不可复制的密钥
  3. 运行时层:操作系统级隔离,阻断调试和内存读取
  4. 溯源层:每项输出均带硬件签名,可公开验证

性能与成本对比

| 模型 | 暗花价格(百万token) | 传统服务价格 | 节省幅度 |
|--------------------|----------------------|-------------|---------|
| Gemma 4 26B | $0.23 | $0.40 | 50% |
| Qwen3.5 122B | $1.17 | $2.08 | 50% |
| 图像生成(每张) | $0.0015 | $0.0030 | 50% |


设备所有者收益模型

  • M1 Max(32GB内存):年收益约$1,958(文本推理)
  • M2 Ultra(192GB内存):图像生成年收益可达$11,774
  • 零平台费:收益全归所有者,仅扣除电费成本

技术实现

  • 无缝对接OpenAI:仅需替换API基础URL即可迁移现有应用
  • 支持流式响应:完整兼容Server-Sent Events协议
  • 终端一键部署:通过脚本自动配置后台服务

python from openai import OpenAI client = OpenAI(base_url="https://api.darkbloom.dev/v1") response = client.chat.completions.create( model="mlx-community/gemma-4-26b", messages=[{"role": "user", "content": "你好!"}] )


愿景

暗花通过构建硬件级可信的分布式网络,打破AI计算的资源垄断,使个人设备成为新一代算力基础设施。其技术白皮书已在GitHub开源,包含完整的安全架构与经济模型分析。

立即体验控制台 | 查看研究论文

(注:所有数据基于2026年4月测试环境,实际收益受网络需求影响)

评论总结

以下是评论内容的总结:

  1. 扩展设备范围的建议

    • 有评论认为应扩展到所有PC和手机设备,潜力更大。
      "Why only Macs? If we think of all PCs and mobile phones running idle, the potential is much larger."
    • 建议在办公室内本地化部署类似方案。
      "I'd love a way to do this locally -- pool all the PCs in our own office for in-office pools of compute."
  2. 技术可行性与隐私保护

    • 肯定TEE(可信执行环境)技术的有效性,但对GPU内存隔离提出疑问。
      "They use the TEE to check that the model and code is untampered with... I was under the impression this wasn't possible if you are using the GPU."
    • 质疑MacBook当前无法实现可验证的隐私保护。
      "Apple Silicon has a Secure Enclave, but not a public SGX/TDX/SEV-style enclave for arbitrary code."
  3. 经济模型质疑

    • 对快速回本和高利润数据表示怀疑。
      "If you can pay off a mac mini in 2-4 months, and make $1-2k profit every month after that, why wouldn’t their business model just be buying mac minis?"
    • 指出供需关系可能导致收益下降。
      "If you enable every spare Mac on the planet to join the game... Now your supply is high, which means now it’s less valuable."
  4. 实际体验与需求问题

    • 用户实测显示需求不足且软件存在缺陷。
      "In 15 minutes of serving Gemma, I got precisely zero actual inference requests... At the moment they don’t have enough sustained demand."
    • 安装过程中遇到依赖缺失问题。
      "latest (v0.3.8) tar doesn’t contain image-bank or gRPCServerCLI dependencies so installer fails."
  5. 潜在风险与局限性

    • 担忧数据隐私和内容安全风险。
      "Generate images requested by randoms on the internet on your hardware. What could possibly go wrong?"
    • 认为更适合非敏感数据的批量处理。
      "I think batch-evals for non-sensitive data has great PMF here."
  6. 商业模式与定位争议

    • 建议苹果官方介入或开源化项目。
      "Apple should build this, and start giving away free Macs subsidized by idle usage."
      "This is not a business - should be an open source GitHub repo maybe."
    • 加密货币支付机制受到肯定。
      "the payment/distribution here is all built on crypto+stablecoins. This is a great use case for it."