IQuest-Q1稀疏MoE代理基础模型发布
热点事件观察中
IQuest-Q1稀疏MoE代理基础模型发布
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
IQuest团队发布了IQuest-Q1,这是一个面向代理式命令行界面系统的稀疏专家混合基础模型,目前已开源。 该模型总参数量为3200亿,激活参数量为150亿,通过三阶段训练流程开发,并在编码和通用任务中展现了能力。
AI 根据报道生成 · 3 小时前更新
最新进展10月22日 04:00
IQuest-Q1:面向代理式CLI系统的稀疏MoE基础模型发布报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- Hugging Face · 每日论文精选IQuest-Q1:面向代理式CLI系统的稀疏MoE基础模型发布
IQuest-Q1 是一个320B参数的稀疏MoE代理基础模型(激活15B),通过三阶段训练:稳定高效预训练、细粒度中期训练、多支架多版本后训练,并结合模型合并技术。模型在编码和通用任务中均展现能力,已开源以支持社区研究。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。