跳到正文

技术方向

推理能力 最新动态

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

57 条精选近 30 天 22 条共收录 171 条

更新

精选归档 · 第 3 页

6月13日周六第 41–57 条
  1. 月之暗面 Kimi 新模型75

    月之暗面发布 Kimi K3 大模型,支持 100 万 token 上下文与原生多模态

    月之暗面发布 Kimi K3 大模型,参数量 2.8T,支持 100 万 token 上下文窗口,具备原生多模态和智能体能力,采用 KDA 和 AttnRes 架构,开源权重并提供 API 接入。模型在 GPQA Diamond、DeepSWE、FrontierSWE 等多个基准上取得领先成绩,支持 MXFP4 量化,推荐在 vLLM、SGLang 等引擎上部署。

    推荐理由:原文提供了模型架构、评测数据和部署方式,读者可据此判断其在长上下文、多模态和智能体任务中的实际能力边界。

6月11日周四
  1. 月之暗面 Kimi 新模型73

    月之暗面 Kimi-K2.7-Code 模型发布

    月之暗面发布 Kimi-K2.7-Code,一款基于 Kimi K2.6 的编码专用智能体模型,采用 MoE 架构,参数量 1T,激活参数 32B,上下文长度 256K,支持图像与视频输入。

    推荐理由:原文提供了模型架构、评测数据和部署方式,读者可据此判断其在长程编程任务和智能体场景中的实际能力与适用性。

6月10日周三
  1. One Useful Thing62

    Ethan Mollick 实测 Mythos 级模型 Claude 5 Fable:从指令到成果的黑箱协作

    Ethan Mollick 获得 Claude 5 Fable 早期访问权限,实测其在多个复杂任务中的表现,包括生成等时线地图和研究分析软件 Concord。Fable 能自主调用多个代理进行研究、编码和验证,完成多页规格的长期任务,输出质量显著优于此前模型。

    推荐理由:作者通过多个复杂任务实测,展示了 Mythos 级模型在自主执行、多代理协作和深度推理上的能力变化,读者可据此理解人机协作关系的潜在演进方向。

6月9日周二
  1. Amazon Science63

    Amazon Science 发布论文:弥合智能体系统中的意图与执行差距

    Amazon Science 发布论文《Dissecting model behavior through agent trajectories》,提出智能体性能瓶颈在于模型意图与执行之间的差距,即意图-执行间隙。

    推荐理由:原文系统分析了智能体系统中模型意图与执行之间的差距,并提出可复用的轻量级框架SSA,读者可据此理解如何设计更鲁棒的智能体执行系统。

6月2日周二
  1. MiniMax 新模型62

    MiniMax 发布多模态大模型 MiniMax-M3,支持 1M 上下文和稀疏注意力

    MiniMax 发布多模态大模型 MiniMax-M3,拥有约 4280 亿参数和 100 万 token 上下文窗口,采用 MiniMax 稀疏注意力(MSA)技术,在 1M 上下文下实现 9 倍预填充和 15 倍解码加速,推理成本降至 1/20。

    推荐理由:原文给出了模型参数、上下文长度、推理速度提升和部署框架,读者可以据此判断其在长上下文和多模态场景下的实际可用性。

  2. Together AI59

    Together AI 详解如何高效推理服务 MiniMax M3 模型

    Together AI 作为 MiniMax M3 的优选云合作伙伴,分享了其针对该模型新特性的推理优化方案。M3 具备 100 万 token 上下文、原生多模态和稀疏注意力架构,Together AI 通过 KV 块主序稀疏注意力、与分页注意力的集成、解码索引评分优化以及网关预处理多模态输入等方法,在代理式流量下将推理性能提升了 81% 至 125%。

    推荐理由:Together AI 分享了其针对 MiniMax M3 模型稀疏注意力等新特性的推理优化细节,包括 KV 块重排、分页注意力集成和网关预处理。

5月11日周一
  1. Together AI73

    Together AI 解析服务 DeepSeek-V4:为何百万 token 上下文是推理系统问题

    DeepSeek-V4 通过压缩 KV 缓存的 token 维度来支持百万 token 上下文,但这将压力转移到了推理系统。模型采用混合注意力设计,包括压缩稀疏注意力、重度压缩注意力和滑动窗口注意力,这要求推理引擎同时管理三种具有不同大小和生命周期的缓存对象。文章基于在 NVIDIA HGX B200 上的早期部署经验,分析了缓存策略、前缀复用和不同工作负载下的性能权衡。

    推荐理由:文章从推理系统角度剖析了 DeepSeek-V4 百万 token 上下文窗口的实现挑战,为开发者评估其实际部署成本提供了具体的技术视角。

5月1日周五
  1. ARC Prize59

    ARC-AGI-3 分析 GPT-5.5 与 Opus 4.7 的推理失败模式

    ARC-AGI-3 通过 135 个新颖环境测试模型的抽象推理能力,分析了 GPT-5.5 和 Opus 4.7 的 160 个推理回放,发现三种主要失败模式:局部效应无法转化为全局世界模型、错误抽象映射至训练数据中的游戏、解决单关但未学习游戏机制。

    推荐理由:原文通过分析 GPT-5.5 和 Opus 4.7 在 ARC-AGI-3 上的推理轨迹,揭示了模型在抽象推理和世界模型构建中的具体失败模式,可为模型设计提供可迁移的诊断思路。

4月27日周一
  1. Mistral 新模型85

    Mistral 发布 Mistral-Medium-3.5-128B-EAGLE 模型

    Mistral 发布 Mistral-Medium-3.5-128B-EAGLE 模型,为 Mistral Medium 3.5 的推测解码版本,支持 256k 上下文窗口、多模态输入、可配置推理强度和智能体功能,采用 Modified MIT License 开源,推荐使用 vLLM 或 SGLang 部署。

    推荐理由:原文提供了模型架构、能力细节和部署方式,读者可据此判断其在多模态推理和智能体场景中的适用性。

4月14日周二
  1. 月之暗面 Kimi 新模型73

    月之暗面发布 Kimi-K2.6 多模态智能体模型

    月之暗面发布 Kimi-K2.6,一个开源的原生多模态智能体模型,支持长上下文编码、编码驱动设计、智能体集群协作和主动自主执行。模型采用 MoE 架构,总参数 1T,激活参数 32B,上下文长度 256K,支持图像和视频输入。

    推荐理由:原文提供了模型架构、评测数据和部署方式,读者可以据此判断其在长上下文编码、智能体协作和多模态能力上的实际表现与适用场景。

4月9日周四
  1. MiniMax 新模型71

    MiniMax 发布自进化模型 MiniMax-M2.7

    MiniMax 发布新模型 MiniMax-M2.7,支持模型自进化、复杂技能构建与多智能体协作,具备强工程能力,在 SWE-Pro、VIBE-Pro、GDPval-AA 等多个基准上表现优异,开源权重可于 HuggingFace 获取,推荐使用 SGLang、vLLM 或 Transformers 部署。

    推荐理由:模型支持自进化机制和多智能体协作,读者可依据其在多个工程与多模态基准上的表现评估其在复杂任务中的实际能力。

3月31日周二
  1. Mistral 新模型71

    Mistral 发布 Mistral-Medium-3.5-128B 多模态大模型

    Mistral 发布新模型 Mistral-Medium-3.5-128B,为首个旗舰合并模型,具备 128B 参数、256k 上下文窗口,支持文本与图像输入、推理、编码及智能体功能。

    推荐理由:原文给出了模型架构、能力变化和开源入口,读者可以据此判断它在多模态和智能体任务中的实际应用潜力。

  2. Together AI65

    Together AI 开源 Aurora:基于 RL 的在线自适应推测解码框架

    Together AI 开源了 Aurora,这是一个基于强化学习的开源框架,能够从实时推理轨迹中学习并异步更新推测解码器中的草稿模型。该框架将推测解码从静态的一次性设置转变为动态、自我改进的飞轮,在实验中,相比训练良好但静态的草稿模型,Aurora 在 Qwen3 和 Llama3 等模型上实现了额外 1.25 倍的加速。

3月25日周三
  1. ARC Prize56

    ARC-AGI-3 发布:首个全交互式智能体基准

    ARC-AGI-3 发布,包含数百个由人类游戏设计师手工设计的交互式环境和数千个游戏关卡,要求 AI 智能体在无指令、无规则、无目标的情况下自主探索并学习。人类得分 100%,前沿 AI 得分 0.51%。

    推荐理由:ARC-AGI-3 是首个全交互式智能体基准,要求 AI 在无指令无规则环境中自主探索,其设计可作为衡量前沿智能体能力的新标准。

3月18日周三
  1. Together AI56

    Together AI 扩展微调服务,支持工具调用、推理和视觉模型

    Together AI 扩展其微调服务,新增了对工具调用、推理和视觉语言模型的原生支持。服务升级了训练栈,可更高效地处理 100B+ 参数模型,吞吐量提升最高达 6 倍,并支持最大 100GB 的数据集。

    推荐理由:Together AI 的微调服务新增了对工具调用、推理和视觉模型的支持,并提升了大规模模型训练的效率。

3月17日周二
  1. Together AI61

    Together AI 发布 Mamba-3 状态空间模型

    Together AI 联合多所大学的研究人员发布了 Mamba-3,这是一个以推理效率为主要目标的新状态空间模型。Mamba-3 通过更复杂的循环公式、复数值状态跟踪和 MIMO 变体提升了性能,其 SISO 版本在 1.5B 规模上,所有序列长度的预填充+解码延迟均优于 Mamba-2、Gated DeltaNet 和 Llama-3.2-1B。

    推荐理由:Mamba-3 将设计目标从训练效率转向推理效率,并开源了内核,为关注部署性能的开发者提供了新的架构选择。

11月4日周二
  1. 月之暗面 Kimi 新模型68

    月之暗面发布 Kimi-K2-Thinking 模型

    月之暗面发布 Kimi-K2-Thinking 模型,为开源思考模型最新版本,具备 256k 上下文窗口、INT4 量化和 1T 参数 MoE 架构,支持多步推理与工具调用,在 HLE、AIME25、BrowseComp 等基准上表现领先。

    推荐理由:原文提供了模型架构、量化方式、基准评测和部署接口,读者可据此判断其在长链推理和工具调用上的实际能力边界。