Aleph Alpha 发布 Kolibri:一个 78.1B 参数、仅激活 3.46B 的英德双语 MoE 模型
Aleph Alpha 发布了 Kolibri-1,这是一个采用混合专家架构的开源权重英德双语大语言模型。模型总参数量为 781 亿,但每个 token 仅激活 34.6 亿参数,支持长达 1,048,576 token 的上下文,并附带 Apache 2.0 许可证。
Aleph Alpha 发布了 Kolibri-1,这是一个采用混合专家架构的开源权重英德双语大语言模型。模型总参数量为 781 亿,但每个 token 仅激活 34.6 亿参数,支持长达 1,048,576 token 的上下文,并附带 Apache 2.0 许可证。
Holo4 是新的通用智能体模型系列,包含 27B 密集版和 35B-A3B MoE 版,现已通过 H Models API 和 Hugging Face 提供。
推荐理由:原文提供了模型性能、成本对比和具体应用案例,读者可以评估其作为通用智能体在不同接口下的实际能力。