LLM 研究论文:2025 年 7 月至 12 月列表
2025 年 7 月至 12 月期间,LLM 研究论文列表整理完成,涵盖推理模型训练、推理时策略、评估方法等分类。该列表由作者从大量论文中筛选并分类,便于后续项目参考。同时,作者今日发布了年度 LLM 回顾文章《State of LLMs 2025: Progress, Problems, and Predictions》。
2025 年 7 月至 12 月期间,LLM 研究论文列表整理完成,涵盖推理模型训练、推理时策略、评估方法等分类。该列表由作者从大量论文中筛选并分类,便于后续项目参考。同时,作者今日发布了年度 LLM 回顾文章《State of LLMs 2025: Progress, Problems, and Predictions》。
DeepSeek V3.2 发布,采用非标准稀疏注意力机制,性能在 GPT-5 和 Gemini 3.0 Pro 上表现优异,且作为开源模型提供。该模型基于与 V3 相同的架构,但引入了新的推理优化,与 DeepSeek R1 等专用推理模型形成对比。DeepSeek 团队今年还发布了 V3.1 和 V3.2-Exp,为 V3.2 的部署做好了生态和推理基础设施准备。
Vector 研究人员在 NeurIPS 2025 会议上提交了 80 篇论文,涵盖下一代基础模型、扩散生成系统、强化学习突破和隐私保护联邦方法等多个领域。其中提出 ActiveVOI 框架,用于开放世界智能体的主动知识获取,显著优于现有基于大语言模型和视觉语言模型的规划方法。另一项研究引入连续时间流图蒸馏方法,通过自引导和对抗微调提升性能,适用于不同步数的生成任务。
Vector Institute 2025 机器学习安全与隐私研讨会揭示了当前 AI 安全方法的关键突破与隐患。Ruth Urner 提出容忍对抗学习理论,使对抗鲁棒性从指数复杂度降至线性复杂度。
Sebastian Raschka 在文章中系统梳理了当前超越标准自回归 Transformer LLM 的多种架构方向,包括线性注意力混合模型(如 Qwen3-Next、Kimi Linear)、文本扩散模型、代码世界模型(CWM)和小递归变压器(如 TRM)。