百度文心 新模型·· 16 天前精选AI 评分68
百度发布ERNIE-5.5-Flash-Base大模型,支持1M上下文和高效推理
baidu/ERNIE-5.5-Flash-Base-BF16
AI 导读
百度发布ERNIE-5.5-Flash-Base大模型,总参数280B,激活参数14B,支持128K训练上下文和1M推理上下文,采用MoE架构和混合注意力机制,预训练数据达33.5T tokens,支持SGLang和vLLM部署,可在Hugging Face和ModelScope下载。
推荐理由
原文提供了模型架构、训练数据、上下文长度和部署方案,读者可据此判断其在长上下文和推理任务中的适用性。
来源:百度文心 新模型 · huggingface.co