MarkTechPost· Jean-marc Mommessin·· 4 小时前精选AI 评分64
Inception 发布 Mercury 3 扩散大语言模型，宣称达 1,068 token/秒
Inception Releases Mercury 3 Diffusion LLM at 1,068 Tokens per Second
AI 导读
Inception 发布 Mercury 3，一款基于扩散架构的LLM，宣称在NVIDIA GPU上实现1,068 tokens/秒的输出速度，上下文窗口达1M tokens。
推荐理由
原文提供了性能数据、基准对比和API接入方式，读者可据此评估其在高速推理场景下的适用性。
来源：MarkTechPost · marktechpost.com