MarkTechPost· Asif Razzaq·· 1 天前同新闻AI 评分70
Mistral AI 发布 Mistral Large 4(Le Chonk):1.05T 参数多模态 MoE 模型
Mistral AI Releases Mistral Large 4 (Le Chonk): A 1.05T Parameter Multimodal MoE Model
AI 导读
Mistral AI 发布 Mistral Large 4(Le Chonk)作为公开预览,该模型为1.05万亿参数的多模态混合专家(MoE)架构,每token激活490亿参数,具备100万token上下文窗口和16亿参数视觉编码器,训练使用3,800块NVIDIA Grace Blackwell GPU。
同一新闻,精选展示《Mistral Large 4 发布:1万亿参数多模态模型公开预览》
来源:MarkTechPost · marktechpost.com