Kolibri Has Landed: A Sovereign Open-Weight Model
Content-fetcher entry · 2026-10-04 · awesome-ai-field-notes
- URL: https://aleph-alpha.com/en/blog/kolibri-has-landed-a-sovereign-open-weight-model
- Source: article · 原文发布 2026-10-03
- Added: 2026-10-04
- Category: models
- Tags: open-weights, moe, long-context, sovereign-ai, german, aleph-alpha
- Quality Score: 4
中文摘要
Aleph Alpha 发布 Kolibri：面向主权场景的英德双语开放权重 MoE 模型，78B 总参数 / 3B 激活，上下文最长 1M token，完整权重挂在 Hugging Face（Kolibri-1），Apache 2.0模型来自其训练即代码流水线的持续迭代：先用 30B 总参/3B 激活65k 上下文的 Kolibri Origin 验证流水线，再跑出支持数百次消融实验硬件故障或数据连接断开时无需人工干预的稳定预训练定位受监管领域的任务关键型本地部署（公共管理工业航空航天），主打全供应链完整性与部署自由；官方称在数学编程grounding长上下文任务上对标最高 4 倍激活参数量的模型，并处于英语/德语的质量-服务成本 Pareto 前沿，附技术报告2026-10-03 发布，HN 478 分/292 评论
关键要点
- Kolibri：英德双语 MoE Transformer，78B 总参数 / 3B 激活，上下文最长 1M token，完整权重与 Apache 2.0 许可发布在 Hugging Face（Aleph-Alpha/Kolibri-1）。
- 来自"模型训练即代码"流水线的持续迭代：先以 30B 总参/3B 激活、65k 上下文的 Kolibri Origin 验证流水线，再跑出支持数百次消融、硬件故障或数据连接中断时无需人工干预的稳定预训练。
- 定位受监管领域的主权任务关键型场景（公共管理、工业、航空航天），强调全供应链完整性、部署自由与知识产权安全，可本地部署而不依赖第三方推理服务。
- 官方基准：AIME 2025 96.9（德语版 87.5）、AIME 2026 96.0、GPQA diamond 84.3、LiveCodeBench v6 85.9、tau-bench 系列（telecom 94.7 / airline 76.7 / retail 69.9）、BFCL v4 61.4；称在数学/编程/grounding/长上下文上对标最高 4 倍激活参数量的模型（如 Nemotron 3 Super 120B-A12B），并处于英/德语质量-服务成本 Pareto 前沿。
- 技术报告：aleph-alpha.com/downloads/tech-report.pdf。
English Summary
Aleph Alpha released Kolibri, a sovereign open-weight English-German Mixture-of-Experts Transformer with 78B total and 3B active parameters, context lengths up to 1M tokens, and full weights downloadable on Hugging Face (Kolibri-1) under Apache 2.0. It comes from continuous iteration of the company's model-training-as-code pipeline, validated first on Kolibri Origin (30B total/3B active, 65k context), enabling hundreds of ablation experiments and pre-training that stayed stable without human intervention when hardware failed or data connections dropped....
One-liner
Aleph Alpha 发布 Kolibri：面向主权场景的英德双语开放权重 MoE 模型，78B 总参数 / 3B 激活，上下文最长 1M token，完整权重挂在 Hugging Face（Kolibri-1）.
注：本文件为 content-fetcher cron 回填；opencli web read 抓取 Aleph Alpha 官方博客全文生成。