跳到正文
Hugging Face · 每日论文·· 2 天前精选AI 评分61

IQuest-Q1:面向代理式CLI系统的稀疏MoE基础模型发布

IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems

AI 导读

IQuest-Q1 是一个320B参数的稀疏MoE代理基础模型(激活15B),通过三阶段训练:稳定高效预训练、细粒度中期训练、多支架多版本后训练,并结合模型合并技术。模型在编码和通用任务中均展现能力,已开源以支持社区研究。

推荐理由

原文详细描述了模型训练三阶段流程与专家合并方法,读者可据此理解其在代理式 CLI 系统中的能力构建路径。

来源:Hugging Face · 每日论文 · huggingface.co