跳到正文
雷锋网·· 4 小时前精选AI 评分66

百度开源文心5.5 Flash Base模型,多基准测试刷新同尺寸模型SOTA

百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA

AI 导读

百度开源文心5.5 Flash Base(ERNIE 5.5 Flash Base)基座模型,采用MoE架构,总参数量2800亿,激活参数140亿,预训练使用33.5万亿Token,上下文长度最高128K,微调与推理支持最长100万Token。

推荐理由

原文给出了模型架构创新、训练优化和多基准测试结果,读者可以据此判断其在同尺寸模型中的效率与能力优势。

来源:雷锋网 · leiphone.com