跳到正文
热点事件持续更新

Aleph Alpha开源英德MoE模型Kolibri

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Aleph Alpha 发布技术报告,开源英德双语混合专家(MoE)Transformer 模型 Kolibri,总参数 78.1B、每 token 激活 3.46B,权重以 Apache 2.0 许可开放。 据技术报告,Kolibri 面向英语和德语,采用混合专家架构,在推理时每个 token 只激活约 3.46B 参数,而非全部 78.1B。模型权重以 Apache 2.0 许可发布,允许他人使用和修改。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv cs.CL
    Aleph Alpha 开源 Kolibri:78.1B 总参数、3.46B 激活参数的英德 MoE 模型

    Aleph Alpha 发布 Kolibri,这是一个英德双语 MoE Transformer,总参数 78.1B、每 token 激活 3.46B,以 Apache 2.0 许可开放权重。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。