今日推出沙漠蚁实验室（Desert Ant Labs），一家构建特定端侧智能的欧洲前沿 AI 实验室。其正打造音频、视觉与文本的小型专用模型，毫秒响应且零运行成本，可置入每处产品交互。模型能跑在五年旧手机，快至逐帧或按键可用。首批 18 个模型今上线，含 12 稳定与 6 测试版，经统一 SDK 支持 Swift、Kotlin、JavaScript。每任务一模型，如沃兹（Voz）在 iPhone 两秒转写十分钟音频，速超 Whisper 4.7 倍。

今天我们发布 Desert Ant Labs——一家欧洲前沿 AI 实验室，专注打造有主见的设备端智能。我们相信，通往高效智能的最佳路径从设备端开始。

我们正在构建音频、视觉和文本的小型专用模型：每个模型都能在毫秒内响应，运行成本为零，所以你可以把智能放进每一次产品交互，而不受 token 费用或推理速度的限制。这些模型小到能跑在五年前的手机上，快到能处理每一帧或每一次按键，而且比你正在付费的 API 调用更好。

首批 18 个模型今天上线（12 个稳定版、6 个测试版），通过同一个 SDK 即可使用，支持 Swift、Kotlin、JavaScript。每个任务对应一个模型，都为在设备上最快完成该任务而设计：

• Voz：在 iPhone 上两秒转录十分钟音频，比 Whisper 快 4.7 倍，每个词都带开始与结束时间。
• Clear：9MB 模型，一秒内把五分钟的笔记本录音变成录音室品质。
• Redact：实时遮掉姓名、地址、卡号，支持 27 种语言，让它们永远到不了你的服务器。
• Tongue：2MB 模型，凭三个词识别 84 种语言。

只用三个词时，Tongue 的语言识别准确率为 0.933，而一个 293MB 的检测器只有 0.887。

这只是其中几个。其余十四个模型的完整规格与基准见 desertant.com/models 和 Hugging Face。每个模型在月活跃设备 10 万以内免费使用，无 token、无登录。

Redact 的 12MB 模型能捕获文本中 88.8% 的个人数据，接近 2.3GB GLiNER-PII 的 91.1%；同场对比中，Rampart（14.7MB）为 61.4，OpenAI filter（3GB）为 60.2。

我们在欧洲构建，“设备端”在这里是主权的默认选择。数据不离开用户手中，功能不依赖别人的云；从未上传过的东西，就永远不会被强制交出去。

我们如何走到今天

过去五年，我们一直以设备端优先的思路开发视频应用 Detail。但加入 Auto Edit（自动剪出短视频）或播客音频增强等功能时，我们不得不退回云端 API。随着 Detail 越来越流行，基础设施账单也越来越高。

每隔几个月我都会去 Hugging Face 上找能找出填充词或清理录音的设备端模型。每年六月都会出现很好用的新工具，但行业发展还不够快。底层条件其实已具备：芯片、Core ML、研究。缺的是从底层到在 App 里真正实现功能之间的那一层——一个能直接接入、用几行代码上线的模型。

于是我们自己训练模型。事实证明，训练模型也是一道产品设计题，而产品正是我们擅长的事。我们设计的模型与本地推理在速度、质量和成本上胜过云服务，在具体任务上超过其他本地与云端模型，体积却只有它们的一小部分。

我们用 Clear 替代 Dolby，做出更好更快的音频增强；用 Voz 让设备端转录快了 5 倍。我们还用 Clips 替代 Claude Sonnet——这个 284MB 模型能在 5 秒内把一段 10 分钟视频切成十几个片段，比 Sonnet 快 10 倍、能耗低 470 倍，质量相同。

Clear 在设备上对一段 5 分钟音频做增强、母带和重新编码，取三次最优结果，iPhone 16 Pro 上达到 302 倍实时，MacBook Pro（M5）上为 345 倍。转录方面，连续 30 分钟音频在 M3 Ultra 上：Voz 319 倍、Apple SpeechAnalyzer 78 倍、Whisper large-v3-turbo 50 倍；Voz 在 iPhone 17 Pro 上也有 298 倍。

将随 iOS 27 推出的 Detail 6，会用我们自己的模型取代所有云端 API，完全在设备端运行。

过去几年，我们都把 LLM 当成又一种 API 来用。在通用前沿模型的喧嚣中，我们差点忘了它们不是唯一选择。和我聊过的每个开发者都有一张设备端模型愿望清单：如果成本不是问题，他会去建什么；或者有一个正在烧大量 token、很乐意换成本地模型的功能。许多调用每天以同样方式重复十万次：清理录音、给照片加标签、从句子中抽出日期、在文本进入服务器前拦住一个名字。这些都不需要前沿模型。

NVIDIA 自己的研究人员拆解了三套 agent 系统后估计，其中 40% 到 70% 对大模型的调用，可以改由小型专用模型完成。

算力已经付过费了

今年行业在数据中心上的投入约 4500 亿美元。与此同时，全世界每年出货超过十亿部手机、平板和笔记本，芯片能力越来越强，恰好适合这类任务。人们手里的算力已经超过地球上所有 AI 数据中心的总和。

免费推理是一种不公平优势。没有按次调用成本，所以一个功能可以处理每一条消息，而不是只有你付得起的那几条。没有往返延迟，客户数据也不离开设备。当推理成本为零，我们构建产品的方式会彻底改变。

每个产品里的小脑

要用本地模型构建，开发者体验必须好得多。你需要能商用、在特定任务上速度和品质胜过替代品、能用几行代码接进 App、而且容易发现的模型。

可以把最初这一百个模型想成小脑。小脑处理始终在线的工作——平衡、节奏、那些你不用想的技能——让大脑其余部分腾出来思考。我们首先要做的正是这个：为全天运转的活儿准备快速专用模型，放在设备上，免费运行。

再往上是皮层，也就是决定哪个模型来回答的一层。先用小的本地模型，任务需要时再换更大的；只有工作必须离开设备时，才用云。随着开放研究推进、设备芯片变得更强，本地模型会变大，我们自己也会训练更大的模型。前沿智能，从小端往上建。

云端实验室发布的是中立的模型，因为按 token 计费需要中立模型；而每个 Desert Ant 模型出厂时自带一个我们选好的默认设置，并给你改变这个默认所需的开关。我们把模型和运行时放在一起优化：在 iPhone 上，Clear 和 Voz 跑在 Neural Engine 上；在浏览器里，Clear 的同一套权重通过 WebAssembly 运行。

SDK

想开始用？你可以在 App 里通过我们的原生 Swift、Kotlin、JavaScript SDK 接入 Desert Ant 模型，SDK 发布在 GitHub。文档为开发者和 agent 编写，你也可以用 CLI 在 Mac 上试用模型，或在浏览器里通过 Hugging Face 直接试。如果你用我们的模型做出了有趣的东西，或想和我们一起构建模型，欢迎联系。

社区普遍赞赏端侧本地模型理念与免费模式，但较多人质疑其只是开源模型的苹果平台专属包装，并对商业模式与跨平台性能存疑。

认为新模型仅是开源模型的包装

• 用户指出所谓新模型实为已有开源模型的换皮，仅添加了平台特定推理代码或专有层。（较多人） > 所谓智能不过是开放模型外裹一层营销与专有代码（@library8848）

认为仅支持苹果平台限制适用性

• 多数模型依赖苹果框架仅限 iOS/macOS，缺乏网页或服务端支持，在低成本服务器上速度令人怀疑。（较多人） > 好奇为何只支持苹果平台，安卓不是也有类似机器学习框架吗（@illright）

赞赏本地模型理念与免费模式

• 认为本地特定模型比云模型更强大，免费额度与无登录方式友好，适合内容处理与隐私场景。（较多人） > 偏爱本地模型，这种完全离线的有益方案本应更有力量（@1dom）

质疑本地模型商业模式不可持续

• 本地模型像传统软件，交付权重后用户不再消耗算力，持续收费理由薄弱，社区为其变现困难感到遗憾。（较多人） > 若我已满意权重且无需更新，凭什么继续从我客户身上赚钱（@1dom）

怀疑演示效果与审核功能风险

• 有用户实测音频增强演示未觉差异；另有人调侃端侧仇恨言论审核容易出错引发问题。（少数人） > 原声与增强版听起来一模一样，或许是演示坏了（@mtlynch）

有价值的补充

• 具体模型对应关系被拆解：Voz 实为 Parakeet 0.6B v3，Clear 是 DeepFilterNet 3，Ear 来自 whisper-tiny 的语言预测器（@library8848）