Aleph Alpha 开源 Kolibri：78B 参数，每 token 只跑 3.46B

10 月 3 日，德国 AI 公司 Aleph Alpha 发布了 Kolibri。发布日选在德国统一日。Kolibri 是开源权重（open-weight）模型，Apache 2.0 许可证，权重已经放到 Hugging Face 上，可以下载商用。名字 Kolibri 是德语“蜂鸟”的意思，官方配的文案是 “Small bird, fast wings, Kolibri is here.”

参数：78B 总量，3.46B 激活

架构是 MoE（混合专家）。总参数 781 亿，但每个 token 只激活 34.6 亿，约 4.4%。具体结构：50 层，每层 384 个专家加 1 个共享专家，路由器给每个 token 挑 6 个专家干活。算力消耗按 35 亿参数算，显存占用按 781 亿算，FP8 权重约 78GB。

上下文：原生 26 万，可扩到 100 万

上下文窗口给到 1,048,576 token，约 100 万。原生训练长度是 262,144，官方给了配置方案，可以扩展到完整的 100 万。一次性能处理很长的文档，比如长篇报告和代码库。

训练：768 张 B200，24 万亿 token

训练用了 768 张 NVIDIA B200，算力放在德国和芬兰。训练数据总共约 24 万亿 token：预训练 20 万亿、中期训练 3.44 万亿、长上下文适配 2000 亿。德语占预训练数据的 21.3%，词表是 12.8 万词的英德双语词表，专门处理德语复合词。知识截止到 2026 年 6 月 18 日。公司同时放出了一份 189 页的技术报告，把架构、数据和评测讲得很细。

性能方面，官方数字：AIME 2025 数学竞赛 96.9%，AIME 2026 96.0%，GPQA diamond 84.3%。官方拿来对比的同档位模型是 Qwen3.6-35B-A3B 和 Mistral Small 4。HN 上的讨论也指出了槽点：在 Kolibri 自己的评测框架里，Qwen3 27B 的德语成绩反而更好，官方对比时没有放进去。

推理强度分四档（无、低、中、高），可以按请求调节，也支持工具调用，适合做 agent 类任务。

定位：本地部署的主权 AI

目标客户是政府、公共管理、工业、航空航天和国防，也就是数据敏感、合规要求高的地方。它的逻辑是：机构在自己的机房里跑，敏感文件不用发给第三方 API。训练全程在德国和芬兰，按欧盟 AI 法案和 GDPR 设计，数据管线先做脱敏。最低硬件要求：1 张 B200 / B300 / H200，或 2 张 H100 SXM5，或 2 张 A100 80GB，配合 vLLM 和官方的推理包。普通电脑跑不了，这是给机构准备的。

Kolibri 不是从零冒出来的。Aleph Alpha 先做了一个小版本 Kolibri Origin（约 300 亿总参数、30 亿激活、6.5 万上下文）验证管线，6 月到 9 月花了约三个月放大到正式版。

欧洲实验室很少放出这个量级的开源权重。Kolibri 的特别之处不在参数数字，而在姿态：训练、合规、部署全链路按欧洲监管要求来。开源权重赛道里，多了一个把“合规”当卖点的玩家。