柯利布里（Kolibri）是阿莱夫阿尔法（Aleph Alpha）推出的开放权重大语言模型（LLM），支持德语和英语，采用专家混合架构，拥有 780 亿参数，但每个 token 读写仅激活约 35 亿参数。该模型于 2026 年 10 月 3 日基于 Apache 2.0 许可发布，权重上线 Hugging Face，并在德国与芬兰基础设施上从零训练。其名称在德语中意为蜂鸟，契合轻量特点。

Kolibri 是 Aleph Alpha 面向德语和英语的开源权重 LLM：一个专家混合模型，参数总量 781 亿，但每读取或生成一个 token 只动用约 34.6 亿。它于 2026 年 10 月 3 日以 Apache 2.0 许可证发布，权重在 Hugging Face 上，完全在德国和芬兰的基础设施上从零训练。（Kolibri 德语意为蜂鸟，对这样一个以轻巧为卖点的模型来说很贴切。）

2024 年在纽约 SmashingConf 上，我说过在美国听到的那句话：“你们监管，不创新。”我当时希望看到的是中间路线：在数据隐私、数据治理、环境约束和能源需求之间找到创新与监管的平衡。Kolibri 是对此相当直接的回应：德国团队从底层就按 EU AI Act 构建，在 Aleph Alpha 自己的评估中，它在两种语言里都高于所有同尺寸对比模型。

Kolibri 是什么？

| | Kolibri 1 | | --- | --- | | 参数 | 总计 781 亿，每 token 34.6 亿（4.4%） | | 语言 | 德语和英语 | | 上下文 | 原生 262,144 token，测试到 1,048,576 | | 许可证 | 权重和配置文件用 Apache 2.0（Aleph Alpha 保留训练代码和方法的权利） | | 内存 | 8 位浮点（FP8）下约 78 GB 权重 | | 推理 | 4 档：none、low、medium、high | | 工具调用 | 支持 | | 知识截止 | 2026 年 6 月 18 日 | | 训练 | 约 24 万亿 token，其中超过五分之一是德语，在 768 块 NVIDIA B200 GPU 上完成 |

Aleph Alpha 称 Kolibri 为主权模型，在其发布帖里这有两层意思。 第一是怎么造：“团队在德国构建模型，在德国和芬兰的基础设施上训练，遵守欧洲和德国法律，没有外国控制。”第二是客户得到什么：“完全自由的部署和知识产权安全，因此合规成为继承属性。”直白说，一个部委或汽车供应商可以在自己的服务器上运行它，数据不离开大楼，没人能改变或关掉模型。Aleph Alpha 还签署了欧盟的 GPAI 行为准则。

主权不等于没有欧洲以外的东西进入，模型卡自己说明：英语网页文本用 Google 的 Gemma 4 改写，德语用 Mistral-NeMo，Qwen3-32B 为质量过滤器标注数据。之后他们过滤了这类模型可能存在的政治偏见，他们自己在中国开源模型上测量过。

Kolibri 如何工作

Kolibri 是 6 个想法叠在一起，每个都是为了让德语更便宜、更长或更诚实。

1. 384 个专家，每个 token 看到 6 个

普通密集模型中，每个 token 都经过每个参数。在专家混合（MoE）中，每一层有一群叫专家的小型子网络，以及一个路由器，为每个 token 挑几个专家。Kolibri 有 50 层，每层 384 个专家，外加 1 个所有 token 都经过的共享专家，路由器把每个 token 送到 384 个中的 6 个。这样 781 亿参数变成每 token 34.6 亿的实际计算。

我在 2024 年演讲中主张更小、参数更少、需要更少算力的模型，并用医生类比：读了全世界医学书的医生对血液科专家。MoE 把一医院专家放进一个模型，路由器是前台，把每个 token 送给正确的 6 个。但类比有两处不成立。专家不是“德国法律”这样整齐的主题：研究者观察 MoE 内部，发现专家多数对应 token 模式，比如标点或专有名词，而不是人类会选的主题。而且医院必须让 384 个专家都在岗，即使你只见 6 个，所以 Kolibri 计算起来像 35 亿参数模型，但需要 780 亿参数模型的显存。 模型卡说得很直白：“完整模型必须常驻内存，尽管任一时刻只有一部分活跃。”

2. 能读德语长词的 tokenizer

模型不读字母或单词，它读 token：来自固定词表的文本块，在训练 tokenizer 时选定。德语把词粘成长复合词，主要从英语学来的 tokenizer 会把它们切碎。下面是德国联邦宪法法院的德语名称，被 GPT-4o 和 GPT-5 使用的 tokenizer（o200k_base，通过 OpenAI 的 tiktoken）切分，以及 Kolibri 的切分：

o200k_base (GPT-5)：Bund | es | ver | fass | ungs | gericht 6 个 token
Kolibri：Bundes | verfassungsgericht 2 个 token

Kolibri 的 tokenizer 有 128,000 个 token，用 Aleph Alpha 称为 UniBPE 的新算法训练：保留 BPE 自底向上的合并，并用不同评分规则（Unigram 目标）选择每次合并，尊重德语构词方式。报告说它处理德语文本比 GPT-5 的 tokenizer 少用 11.2% 的 token，在他们测量的另外 9 个中最好。

我想自己看，于是用 6 个 tokenizer 跑了德国基本法，即德国宪法（185 KB 非常德语的 legal text），以及它的官方英文翻译：

| Tokenizer | 德语 token | 比 Kolibri 多 | 英语 token | 比 Kolibri 多 | | --- | --- | --- | --- | --- | | Kolibri 1 | 35,190 | | 39,875 | | | o200k_base（GPT-4o、GPT-5、GPT-OSS） | 41,482 | 17.9% | 39,737 | -0.3% | | Qwen3.5 35B-A3B | 42,907 | 21.9% | 41,650 | 4.5% | | Mistral Small 4 | 43,478 | 23.6% | 41,301 | 3.6% | | Gemma 4 | 43,850 | 24.6% | 41,564 | 4.2% |

在法律德语上，Kolibri 比 GPT-5 的 tokenizer 少用 15% token，甚至高于 Aleph Alpha 自己说的 11.2%，英语上打平。少 token 意味着读写同样德语文本需要更少步骤，同一上下文窗口能装下更多德语。（我用 Hugging Face 的 tokenizers 库按各自 tokenizer.json 计数，o200k_base 用 tiktoken 计数。）

3. 多数层只看附近

Kolibri 50 层里有 40 层用滑动窗口注意力：每个 token 只看它前面的 512 个 token。每第 5 层看前面所有内容。像读长合同，多数时候注意当前句子，每隔几页停下来想整体，这让 100 万 token 上下文变得可负担。

还有一个巧妙细节。只有滑动窗口层通过旋转位置嵌入知道 token 的位置，全注意力层不知道，所以上下文能超出训练时的 262,144 token，而不用额外位置技巧。Aleph Alpha 验证到 1,048,576。

在我演讲《Unlocking Value with AI Today》中，我把有限上下文列为生成式 AI 的三大问题之一，另两个是幻觉和知识截止，Kolibri 三个都针对。在 100 万 token 的 RULER 长上下文测试上，Kolibri 基础模型得 63.2，Qwen3.5 35B-A3B 基础模型 57.5。

4. 用德语思考

推理模型回答前先思考，即使德语提示也大多用英语想。Aleph Alpha 9 月 24 日发帖并写成《Through the Valley of Tears》：他们生成约 80 万条德语推理样本，发现少量德语推理数据比没有更糟。模型的德语数学分数从 70.2 掉到 48.3，因为德语思考不断绕圈、永不结束，只有大量增加德语数据后才回到 67.3。

Kolibri 得到了大量数据。它在德语提示下用德语推理，德语数学分数在约 30 亿活跃参数的模型中最好：AIME 2025 德语 87.5，下一名 NVIDIA Nemotron 3 Nano 84.4。

5. 被训练说“我不知道”

幻觉是我三大问题里的第一，当时演讲中的解法是 RAG：查出权威信息放进提示。但 RAG 只有在模型承认文档没有答案时才有用，这正是 Aleph Alpha 训练的目标，用了自己的 Merlin-Arthur 协议。

它像 3 个玩家的游戏。Arthur 是模型，拿到一个问题，支持文档部分被隐藏。Merlin 隐藏部分内容，让正确答案更容易找到，Arthur 被训练回答这些。Morgana 隐藏答案依赖的证据，Arthur 被训练说不知道。Arthur 从不知道面对的是谁，所以唯一赢法是真正检查眼前证据是否支持答案。

效果明显。在 Artificial Analysis 的 Omniscience 测试中，Kolibri 不知道答案时，44% 的情况会说不知道或给部分答案，而不是编造。Qwen3.5 35B-A3B 是 11.1%，GPT-OSS 120B 是 23.7%。Aleph Alpha 对比的所有 MoE 模型中，只有 Qwen3.6 35B-A3B 更高，56.7%。

6. 你来选它想多努力

每个请求可设 reasoning_effort 为 none、low、medium、high，快速查询立刻回答，难题得到长思考，同一个模型、同一台服务器。

Kolibri 擅长什么

这些是 Aleph Alpha 评估中 Kolibri 领先同尺寸开放模型的几行，评估用同一设置跑每个模型，并采用厂商推荐的采样参数：

| 项目 | Kolibri | 最接近的约 3B 活跃参数模型 | | --- | --- | --- | | 英语总分 | 75.5 | 74.7（Qwen3.5 35B-A3B） | | 德语总分 | 70.8 | 69.8（Qwen3.5 35B-A3B） | | AIME 2025 英语 | 96.9 | 89.6（Nemotron 3 Nano） | | AIME 2025 德语 | 87.5 | 84.4（Nemotron 3 Nano） | | 未见公司文档问答，英语 | 89.7 | 87.0（Qwen3.5 35B-A3B） | | 100 万 token 长上下文（基础模型） | 63.2 | 58.5（Nemotron 3 Nano） |

数学最突出：在 AIME 2025 和 2026 英语上，它击败对比中所有 MoE 模型，包括 120 亿活跃参数的，只有密集的 Qwen3.8 27B 得分更高。公司文档那行是 Aleph Alpha 基于半导体、德国公共部门、航空航天、汽车供应商和工业驱动类客户工作构建的 5 个测试，文档和问题都是模型训练中没见过的。

Kolibri 不擅长什么

模型卡把最弱几行和最强几行并排发布，这里照录：

• 从记忆里知道的东西更少。 在闭卷测试（RAG Benchmark 无文档问题）中 51.0，12 个模型里最后；Omniscience 只答对 14.8%，Qwen3.5 35B-A3B 22.2%。它知道自己不知道，很好，但它知道的也更少：有文档在提示里没问题，当 trivia oracle 很差。
• 多轮工具调用较弱。 Berkeley Function Calling Leaderboard 多轮测试 39.8，GLM-4.7 Flash 58.2，Qwen3.5 35B-A3B 54.0。
• 不是最好的编码代理。 Terminal-Bench 2.1 得 27.7，Qwen3.5 35B-A3B 39.7；SWE-bench Verified 66.4，Qwen3.6 35B-A3B 73.8。
• 长上下文中间会掉。 在 RULER 128,000 token 时，Qwen3.5 基础模型 89.9，Kolibri 67.9。Kolibri 只在极长端反超。
• 内存。 78 GB 权重意味着数据中心 GPU 或两张，绝不是笔记本，不管 35 亿听起来多轻。
• 管道是新的。 需要 Aleph Alpha 的 vLLM 插件，一次只支持一个 vLLM 版本（当前 0.29），发布日还没有托管服务商提供。
• 只有两种语言。 这是故意的：模型卡称“深思熟虑地选择深度而非广度”。
• 更大的密集模型能打败它。 Qwen3.8 27B 英语 80.2、德语 79.9，但每 token 用近 8 倍参数，这就是 Kolibri 围绕的取舍。

如何运行 Kolibri

需要约 78 GB GPU 显存：至少两张各 80 GB 的 NVIDIA A100 或 H100，或单张 H200、B200、B300。我还没跑过模型本身，因为它需要数据中心 GPU，目前也没人托管，以下直接来自模型卡。先装插件，它会安装其支持的 vLLM 版本：pip install 'aleph-alpha-inference>=1'。然后启动：vllm serve Aleph-Alpha/Kolibri-1 --kv-cache-dtype fp8 --reasoning-parser kolibri1 --tool-call-parser kolibri1 --enable-auto-tool-choice。这会给你一个 OpenAI 兼容服务器，任何 OpenAI 客户端都能对话，推理强度通过聊天模板传入，例如在 extrabody 里放 chattemplatekwargs: {"reasoningeffort": "high", "enablethinking": true}。模型卡推荐 temperature=1.0、topp=0.97、topk=128，延迟敏感场景上下文最多 262,144 token。要跑满 100 万，再加 --max-model-len 1048576 和 --hf-overrides '{"maxposition_embeddings": 1048576}'。

什么时候用 Kolibri

当德语文本和你自己的硬件都重要时，Kolibri 是选择： 公共机构、银行、制造商或航空航天供应商，必须把文档留在内部，想要用德语推理的德语答案，宁愿听到“我不知道”也不要自信的错误答案。对长德语文档（法律、合同、手册）做 RAG 能发挥上面所有强项：tokenizer、100 万 token 上下文和弃答。

这正是我目前在做的项目类型，和 Prof. Dr. Heinrich Audebert 一起，他领导柏林 Charité 旗下 Campus Benjamin Franklin 的神经内科。今天，有神经症状的病人去看全科医生，全科医生必须接诊，对忙碌诊所要求很高。在我们构建的东西里，病人坐在全科诊所的电脑前，AI 头像带他们做一系列测试，并判断症状多紧急：立刻转诊专科，还是可以等。对话是德语，关乎人的健康，模型必须跑在我们控制的地方，所以我们考虑用 Kolibri。

它不适合编码代理，那里 Qwen3.6 35B-A3B 领先；不适合必须靠记忆回答的问题；不适合德语和英语以外的语言；不适合拿不出 78 GB GPU 显存的人。对最后一种情况，我在 2024 年主张的小型专用模型仍是答案：为我的播客搜索，我在 Apple silicon 笔记本上微调 Mistral 7B，而不是付费用 GPT-4o。

对你自己文档，像 Kolibri 这样的专家医院更好，还是为单一任务训练的小模型更好，只有在你自己的数据上试过才知道。在代理下面换模型而不弄坏它，是我关于可靠 AI 代理工作坊覆盖的内容：无论底下是哪个模型都能工作的防护栏和重试。

社区对 Aleph Alpha 的 Kolibri 模型普遍质疑其编码实力与“主权”成色，但部分人认可欧洲自主 AI 努力及模型在非编码场景和审计中的潜在价值。

认为该公司及模型能力堪忧

• 多家指出 Aleph Alpha 人才流失、项目失败，模型记忆与多轮工具调用弱，编码不占优；基准对比选旧模型、误称小模型更大等做法遭嘲（较多人）
• > 这公司如今就是个悲哀玩笑，人才散尽交付失败，只剩给投资人套现（@9dev）

认为“主权 AI”名不副实

• 德国硬件与数据均依赖美国，模型仅德英双语数据集受限，且公司拟与加拿大 Cohere 合并，主权宣示受质疑；也有人认为这种跨国合并恰是分担成本之必需（较多人）
• > 德国何来主权？硬件全非自主，美国巨头像水蛭般吸走一切数据（@shevy-java）

认为发布形式不当或非 Show HN

• 若干用户指出公告仅为博客而非 Show HN 选题，应另归类（少数人）
• > 一篇博客帖不算 Show HN 话题（@pu_pe）

认为模型在非编码与审计场景有实用价值

• 并非所有需求都是硅谷式编码，本地化未充分服务场景可用；主权模型可低成本审计他模型输出，充当信任适配；也有人视为欧洲公共物品（较多人）
• > 别只盯着饱和的编码应用，本地未被满足的用例才需要这类本地模型（@hypfer）

赞赏技术报告与开放性

• 技术报告详述数据集与构建方法如教程，Merlin-Arthur 协议巧妙应对“不知”问题，开放程度罕见（少数人）
• > 论文像教你自己做现代智能体大模型的教程，连数据集都公开，头回见这么开放（@miellaby）

认为推理速度快但显存门槛高

• 3B 激活参数实测约 170 token/s，但全量 78B 权重须载入内存，自托管实践门槛不低（少数人）
• > 速度不错，fp8 下靠 3B 激活参数能跑 170 token/s，但太爱过度思考烧 token（@martianvoid）

有价值的补充

• 关于监管与创新：舆论常在“全速踩油门”与“死踩刹车”两极间摇摆，细致治理如核电史般被淹没，此类比精巧（@api）
• 德国用户表态更支持 Mistral 与 Black Forest Labs，侧面反映对 Aleph Alpha 信心不足（@d2kx）
• 模型思维“德语模式”玩笑：永远准时、满是缩写、遇事就建委员会，折射社区对德式官僚的调侃（@Lucasoato）