Aleph Alpha 发布开源英德双语 MoE 模型 Kolibri
热点事件持续更新
Aleph Alpha 发布开源英德双语 MoE 模型 Kolibri
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Aleph Alpha 发布了开源权重的英德双语大语言模型 Kolibri-1。 该模型采用混合专家架构,总参数量为 781 亿,但每个 token 仅激活 34.6 亿参数,支持长达 1,048,576 token 的上下文,并附带 Apache 2.0 许可证。
AI 根据报道生成 · 5 小时前更新
最新进展10月4日 15:01
Aleph Alpha 发布 Kolibri:一个 78.1B 参数、仅激活 3.46B 的英德双语 MoE 模型报道时间线
沿着报道,了解事件的不同侧面。
10月4日
- MarkTechPostAleph Alpha 发布 Kolibri:一个 78.1B 参数、仅激活 3.46B 的英德双语 MoE 模型
Aleph Alpha 发布了 Kolibri-1,这是一个采用混合专家架构的开源权重英德双语大语言模型。模型总参数量为 781 亿,但每个 token 仅激活 34.6 亿参数,支持长达 1,048,576 token 的上下文,并附带 Apache 2.0 许可证。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。