雷锋网·· 4 小时前精选AI 评分66
百度开源文心5.5 Flash Base模型,多基准测试刷新同尺寸模型SOTA
百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA
AI 导读
百度开源文心5.5 Flash Base(ERNIE 5.5 Flash Base)基座模型,采用MoE架构,总参数量2800亿,激活参数140亿,预训练使用33.5万亿Token,上下文长度最高128K,微调与推理支持最长100万Token。
推荐理由
原文给出了模型架构创新、训练优化和多基准测试结果,读者可以据此判断其在同尺寸模型中的效率与能力优势。
来源:雷锋网 · leiphone.com