780亿总参数,每次推理只激活30亿。德国AI公司Aleph Alpha在2026年10月3日发布的新模型Kolibri,把"能力"和"部署成本"这对老矛盾摆到了台面上。
发布日选在德国统一日。这个时间点本身就带着信号:这是一款主打"主权"的模型,从构建方式到交付方式,都强调不依赖外部控制。
![]()
参数效率:780亿里只用30亿
![]()
Kolibri的核心设计是稀疏激活。模型总参数780亿,但处理每个token时只调用其中30亿个活跃参数。这个比例意味着,它试图在模型能力和推理成本之间找一个平衡点。
发布时支持英语和德语,最大上下文长度100万token。训练流程覆盖数据摄取、筛选、消融实验、预训练、后训练到最终评估,整条链路自动化。硬件故障或数据连接出问题时,不需要人工介入,也能跑完数百个实验并保持预训练稳定。
官方给出的性能对比图里,横轴是处理速度,纵轴是基准分数。Kolibri在英语和德语两个方向上,都处在"同速度模型中性能最高"的位置。
在数学、编程、grounding和长上下文任务上,Kolibri的表现可以匹敌活跃参数规模最高达自己4倍的模型,比如Nemotron 3 Super。
主权不只是开源,还包括构建过程透明
Aleph Alpha对"主权"的定义分两层:模型怎么构建,以及怎么交付给客户。
构建层面,权重和筛选过程保持透明,开发背后的决策逻辑可被查看。模型还要能通过推理轨迹解释自己为什么给出某个回答。
公司自研的Merlin-Arthur协议被用来保证模型可靠性。当上下文不足以支撑回答时,Kolibri会选择不回答,以此减少幻觉。
![]()
模型在德国构建,训练跑在德国和芬兰的基础设施上,从数据筛选、预训练、后训练到模型工厂优化,整条流水线依照欧洲和德国法律执行,不受外国控制。Aleph Alpha认为,这种端到端的流水线管理才是模型主权的基础。管理权也会移交给客户,让客户获得完整的部署自由度,可以控制推理过程,在回答质量、成本和延迟之间做取舍。
德语不是翻译出来的,是设计进去的
Kolibri开发了德语和英语的双语tokenizer,在预训练全过程中嵌入原生德语数据。预训练token里有21.3%是德语,翻译内容的使用被压到最低。
这意味着它不是"英语模型能读德语",而是从设计阶段就按双语模型来做。
官方列出的重点优化方向包括:德语处理能力、推理、数学、agent行为,以及客户定制场景。目标使用领域是公共行政、产业、航空航天这类监管严格、任务关键的行业。
Apache 2.0开源,pip就能装
Kolibri以Apache License 2.0协议开放,可通过aleph-alpha-inference包和Kolibri vLLM插件使用。官方提供容器镜像,也支持pip安装。模型权重已在Hugging Face上线,仓库名为Aleph-Alpha/Kolibri-1。
从定位看,这款模型不打算在通用榜单上刷分,而是瞄准了一个更窄的切口:受监管行业里,那些既要求数据主权、又要求可解释性、还要求成本可控的任务。780亿参数只激活30亿的设计,正是为这个切口服务的。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.