Together AI 扩展微调服务,支持工具调用、推理和视觉模型
Together AI 扩展其微调服务,新增了对工具调用、推理和视觉语言模型的原生支持。服务升级了训练栈,可更高效地处理 100B+ 参数模型,吞吐量提升最高达 6 倍,并支持最大 100GB 的数据集。
推荐理由:Together AI 的微调服务新增了对工具调用、推理和视觉模型的支持,并提升了大规模模型训练的效率。
Together AI 扩展其微调服务,新增了对工具调用、推理和视觉语言模型的原生支持。服务升级了训练栈,可更高效地处理 100B+ 参数模型,吞吐量提升最高达 6 倍,并支持最大 100GB 的数据集。
推荐理由:Together AI 的微调服务新增了对工具调用、推理和视觉模型的支持,并提升了大规模模型训练的效率。
Together AI 联合多所大学的研究人员发布了 Mamba-3,这是一个以推理效率为主要目标的新状态空间模型。Mamba-3 通过更复杂的循环公式、复数值状态跟踪和 MIMO 变体提升了性能,其 SISO 版本在 1.5B 规模上,所有序列长度的预填充+解码延迟均优于 Mamba-2、Gated DeltaNet 和 Llama-3.2-1B。
推荐理由:Mamba-3 将设计目标从训练效率转向推理效率,并开源了内核,为关注部署性能的开发者提供了新的架构选择。
2026 年 1-2 月共发布了 10 款开源大语言模型,涵盖 Arcee AI 的 Trinity Large(400B 参数 MoE 架构)、Moonshot AI 的 Kimi K2.5(1T 参数)等。
本文将推理时扩展方法分为多个类别,用于提升大语言模型的推理性能。文中提到 OpenAI 在去年的 o1 宣布博客中展示了推理时扩展与训练的对比图,表明增加推理资源可提升模型准确性。作者通过大量实验和参数调优,最终将章节扩展为两部分并开放早期访问。
通过构建专门的超人类AI助手,可以实现对AI系统的超人类监督,这些助手只需在特定监督任务上超越人类,无需全面超越。利用AI系统生成的大量数据(如输入输出行为、神经元激活等),结合明确的可验证问题,可构建可扩展的奖励信号。
2025 年大语言模型领域持续发展,推理模型成为主流,DeepSeek R1 作为开源模型表现出与顶级闭源模型相当的性能,并引入 RLVR 和 GRPO 算法降低训练成本。训练 DeepSeek R1 的成本估计为 294,000 美元,远低于此前预期,但该数字仅涵盖计算资源费用,未包含研究人员薪资等其他成本。各大模型开发者均推出了基于推理的模型变体,推动了模型能力的扩展与优化。
AI 能力存在显著的“锯齿前沿”,即在某些任务上表现超人类而在其他任务上却表现不佳。例如,GPT-4.1 能在两天内完成相当于12人年工作量的医学综述,但在记忆和访问补充文件等任务上仍是短板。这种能力的不均衡性造成了自动化瓶颈,使得超级智能的 AI 目前仍难以完全替代人类。
DeepSeek V3.2 发布,采用非标准稀疏注意力机制,性能在 GPT-5 和 Gemini 3.0 Pro 上表现优异,且作为开源模型提供。该模型基于与 V3 相同的架构,但引入了新的推理优化,与 DeepSeek R1 等专用推理模型形成对比。DeepSeek 团队今年还发布了 V3.1 和 V3.2-Exp,为 V3.2 的部署做好了生态和推理基础设施准备。
Vector 研究人员在 NeurIPS 2025 会议上提交了 80 篇论文,涵盖下一代基础模型、扩散生成系统、强化学习突破和隐私保护联邦方法等多个领域。其中提出 ActiveVOI 框架,用于开放世界智能体的主动知识获取,显著优于现有基于大语言模型和视觉语言模型的规划方法。另一项研究引入连续时间流图蒸馏方法,通过自引导和对抗微调提升性能,适用于不同步数的生成任务。
Sebastian Raschka 在文章中系统梳理了当前超越标准自回归 Transformer LLM 的多种架构方向,包括线性注意力混合模型(如 Qwen3-Next、Kimi Linear)、文本扩散模型、代码世界模型(CWM)和小递归变压器(如 TRM)。
月之暗面发布 Kimi-K2-Thinking 模型,为开源思考模型最新版本,具备 256k 上下文窗口、INT4 量化和 1T 参数 MoE 架构,支持多步推理与工具调用,在 HLE、AIME25、BrowseComp 等基准上表现领先。
推荐理由:原文提供了模型架构、量化方式、基准评测和部署接口,读者可据此判断其在长链推理和工具调用上的实际能力边界。