Together AI 推出生产环境模型滚动升级方案
Together AI 发布 Canary rollouts 功能，支持在生产环境中无停机升级模型。该功能提供三种升级策略（Canary、Blue-green、Rolling），包含详细的健康检查机制和回滚方案。用户可通过 CLI、REST API 或 Python SDK 控制升级流程，系统会确保容量充足且流量只导向已就绪的副本。
#教程/实践
Together AIAI 评分5151 NVIDIA · 开发者博客AI 评分4343 NVIDIA 如何评估 AI 智能体：从工具调用到任务完成
NVIDIA 提出 AI 智能体评估需从评估单一函数调用转向评估完整任务完成度。关键在于衡量智能体能否在真实环境中执行包含数十个顺序工具调用的工作链，并在步骤失败时恢复。仅评估模型输出“听起来”是否正确，无法判断工作是否实际完成。
PyTorch 博客精选AI 评分5555 TinyTorch：一个纯 Python 教学框架，让你从零构建 PyTorch
TinyTorch 是一个免费开源的纯 Python 教学框架，旨在让学生从零开始构建一个可工作的 ML 框架，涵盖从张量到 Transformer 的 20 个模块。它完全复刻 PyTorch API，无需 GPU，在仅 4 GB 内存的笔记本电脑上即可运行。该项目源于哈佛大学的课程，现已发展为包含自动评分、里程碑验证和社区地图的完整教学体系，并被全球多所大学采用。
推荐理由：文章详细拆解了 TinyTorch 作为教学框架的设计哲学和模块结构，为教育者和自学者提供了清晰的实施蓝图。
vLLM 官方博客AI 评分5151 vLLM 发布 Qwen3.8-2.4T 的 PD 服务性能结果
vLLM 团队在 GB300 NVL72 集群上完成了 Qwen3.8-2.4T 模型的 PD 服务性能测试，实现了每 GPU 5000 总 token 吞吐量和每用户 180 生成 token/秒的低延迟表现，并公开了可复现的 srt-slurm 配置与调优流程。
NVIDIA · 开发者博客AI 评分2020 NVIDIA AIPerf 大规模大语言模型推理基准测试
NVIDIA 发布了 AIPerf 基准测试工具，用于评估大语言模型在真实生产环境中的推理性能。该工具解决了单进程性能限制和 Python GIL 并发瓶颈等问题，能更准确地衡量模型部署后的实际速度。
Machine Learning MasteryAI 评分4949 从零构建并理解向量数据库：10 个简单步骤
本文演示了如何通过 10 个步骤从零构建一个向量数据库，核心是将文档编码为固定长度向量并通过语义而非关键词进行搜索。每个步骤展示一个基础概念，使用 NumPy 实现，无需 GPU 或 API 密钥。测试显示，当文档数量超过 10 万时，排序耗时逐渐超过扫描耗时，此时可考虑使用近似索引（如 HNSW、IVF）提升速度。
Hamel HusainAI 评分2727 AI Evals：一切你需要知道的
AI Evals 是用于测试 AI 系统是否符合预期目标的评估方法，能帮助团队发现产品偏离用户需求或业务目标的问题，并提供改进数据。常见评估基准包括 GPQA Diamond、Terminal-Bench 和 MMLU，用于衡量模型在科学推理、命令行任务和多领域知识上的表现。评估设计建议使用二元（通过/失败）评分而非 1-5 分评分，并需注意评估工具的选择与标注流程的优化。
vLLM 官方博客精选AI 评分6060 vLLM 新增 NVIDIA 硬件视频解码支持
vLLM 新增对 NVIDIA 硬件视频解码的支持，通过 PyNvVideoCodec 实现视频解码从 CPU 向 GPU 的迁移，显著提升多 GPU 节点上的视频字幕生成吞吐量。在 8xH100 配置下，GPU 解码性能超过 CPU 解码一倍以上。支持 Qwen/Qwen3-VL-8B-Instruct 等轻量多模态模型，适用于自动驾驶等场景的视频描述任务。
推荐理由：原文给出了硬件视频解码支持的接入方式和性能提升数据，读者可据此评估其对多GPU视频任务的优化效果。
Together AIAI 评分3232 Together AI 推出 Dedicated Model Inference 支持 GLM-5.2 编码智能体高并发负载
Together AI 为一家全球金融科技公司部署 Dedicated Model Inference，支持 GLM-5.2 在 256K 上下文窗口下实现高并发编码代理负载，峰值并发达 178K tokens。该方案提供自服务端点控制、可编程指标 API 与模型灵活切换能力，实现零停机配置更新与团队级可观测性。
fal 博客精选AI 评分6363 fal 平台详解 H3 Max 视频模型的训练、部署与分发全流程
fal 平台发布文章，详细介绍了视频生成模型 H3 Max 如何在其平台上完成从训练、部署到分发的全生命周期。H3 Max 在 fal Compute 上进行后训练，以在保持质量的同时最小化推理时间。
推荐理由：原文详细拆解了从模型训练优化到大规模部署的完整技术栈，展示了如何通过基础设施设计同时降低推理延迟和端到端延迟。
LangChain 博客AI 评分4242 Included Health 如何用 LangGraph 和 Deep Agents 构建联邦医疗智能体
Included Health 通过 LangGraph 和 Deep Agents 构建了一个联邦医疗智能体架构，用于其 AI 驱动的医疗导航平台 Dot。该架构允许智能体在不同子流程间保持语气和行为一致性，并通过共享文件系统传递上下文信息，避免用户重复说明。Deep Agents 还支持将临床能力封装为技能，供各智能体按需调用，提升对话的自然度和导航效率。
The Pragmatic EngineerAI 评分4343 AI Skills with Matt Pocock
Matt Pocock 讨论了他开发的“grill-me”技能，该技能通过持续提问用户来帮助 AI 智能体深入理解任务。他提到该技能灵感来自 Anthropic 的 Thariq Shihipar，并强调使用“tracer bullets”等引导性术语可提升智能体编码效果。摘要还提到他将编码流程转向云智能体以实现协作，并探讨了代码库需为“无记忆同事”优化的开发理念。
GitHub Blog · AI & ML精选AI 评分7070 GitHub Copilot 运行时使用 Copilot 自身重写为 Rust
GitHub Copilot 团队使用 GitHub Copilot 应用和 CLI，将 Copilot 智能体运行时从 TypeScript 完全重写为超过 80 万行生产级 Rust 代码。该项目主要由一名开发者在几个月内完成，性能提升了数个数量级，并支持通过 C ABI 进行进程内嵌入，为所有六种 SDK 语言版本提供了更优的性能和资源使用方案。
推荐理由：原文详细记录了用 AI 辅助将核心运行时从 TypeScript 重写为 Rust 的完整过程、技术决策和量化结果，为大规模工程迁移提供了具体参考。
NVIDIA · 开发者博客AI 评分3333 NVIDIA 如何利用 AI 智能体为仿真准备 3D 场景
AI 智能体工作流可用于为物理 AI 系统准备和验证数字孪生。智能体能检查 3D 场景、在 OpenUSD 中编写仿真相关数据、添加物理属性、渲染预检视图，并根据仿真就绪（SimReady）要求验证结果。该流程可将 Blender 中的场景转化为仿真就绪的 OpenUSD 文件。
NVIDIA · 开发者博客AI 评分3838 NVIDIA cuTile Rust 如何利用智能体 AI 将 CUDA Tile 操作从 Python 翻译到 Rust
NVIDIA 的 cuTile Rust 库借助智能体 AI 工具，可将基于 CUDA Tile 的 GPU 内核操作从 Python 自动翻译为 Rust 代码。该库将 Rust 的所有权模型扩展至基于 tile 的 GPU 内核，将可变输出拆分为互不相交的部分，并在内核启动间保持主机端的所有权契约。程序员在需要底层控制时，也可选择局部退出此安全模型。
Neo4j 博客AI 评分1111 What is graph visualization? 的中文翻译
图可视化工具通过将连接的数据转化为直观的交互式图表，帮助用户理解数据点之间的关系和影响。节点代表实体，关系以线条连接，属性控制颜色、大小等视觉元素。图可视化在欺诈检测、供应链映射和 AI 智能体记忆分析等场景中尤为关键，能揭示传统图表难以发现的多跳路径关联。Neo4j 提供了 Bloom、Dashboards 和 Visualization Library 等工具支持图可视化。
Together AIAI 评分3333 Together AI 推出从闭源到开源模型的迁移策略
Together AI 发布从闭源模型向开源模型（OSM）迁移的完整策略，支持通过托管服务实现数周至数月的快速迁移，显著降低技术复杂度。该策略强调基于真实业务负载的评估，推荐使用 FrontierCode、LMArena、τ-bench 等基准，并结合实际流量回放进行性能与成本验证。最终目标是实现与闭源模型相当或更优的准确率与延迟表现，支持企业平稳过渡至开源生态。
NVIDIA · 开发者博客AI 评分3535 NVIDIA 博客：稠密模型与 MoE 模型对比——激活参数量、吞吐量与选择时机
NVIDIA 博客对比了稠密模型与混合专家（MoE）模型架构的核心差异。以 Nemotron 3.5 Lightning 为例，其总参数量为 300 亿，但每个 token 仅激活约 30 亿参数，这得益于 MoE 架构仅选择部分专家网络处理输入。文章分析了两种架构在激活参数量、推理吞吐量以及适用场景上的权衡。
NVIDIA · 开发者博客AI 评分2525 NVIDIA Groq 3 LPX 确定性执行如何驱动 NVIDIA Vera Rubin 平台实现高能效、高交互性推理
NVIDIA Groq 3 LPX 确定性执行技术提升了 NVIDIA Vera Rubin AI 平台的能效与交互性。该技术旨在最大化有限功耗预算下的输出，将性能功耗比作为衡量 AI 平台价值的最终标准。
Google · Gemini 博客AI 评分2121 Gemini：4 种方式帮你应对家务琐事
Gemini 可通过 4 种方式帮助用户处理家务，如家电维修指导、定制化饮食计划、家庭支出跟踪和大型购物比较。用户可通过上传收据、使用 Gemini Live 拍摄冰箱内容或询问汽车对比信息，获得即时分析与建议。该功能基于 Google AI & Economy ATLAS v1.0 研究，显示超过 86% 的对话式 AI 交互发生在非工作场景。
NVIDIA · 开发者博客AI 评分3030 NVIDIA FLARE 如何跨 Docker、Kubernetes 和 Slurm 扩展联邦学习
NVIDIA FLARE 提供了跨 Docker、Kubernetes 和 Slurm 等异构基础设施扩展联邦学习工作流的能力。该框架使多个研究项目能在共享的 GPU 资源上保持隔离运行，同时确保每个参与组织对其数据和计算资源保持控制权。
LangChain 博客精选AI 评分5555 LangChain 发布付费媒体智能体并开源
LangChain 发布用于管理付费广告的智能体，支持跨平台数据整合、自动分析与提案，已开源并可通过 Managed Deep Agents 部署至 Slack。该智能体在六个月内使付费媒体贡献营销管道比例从 0 提升至 20%，成本下降 30%，并实现了 40 倍的报告生成效率提升。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
NVIDIA · 开发者博客AI 评分3131 NVIDIA Transformer Engine 在 JAX 中加速无丢弃 MoE 训练
NVIDIA Transformer Engine 通过优化 JAX 中的专家路由，实现了无丢弃的 MoE 训练加速。该技术消除了传统 MoE 训练中因容量因子限制而丢弃 token 的现象，提升了训练效率。
IEEE Spectrum · AIAI 评分1212 IBM 举办“负责任 AI 高等教育”互动网络研讨会
IBM 将举办一场关于“负责任 AI 高等教育”的免费互动网络研讨会。会议将介绍 AI 类型、探讨相关担忧、分享 IBM 的负责任 AI 方法，并以 AI 智能体 IBM Bob 为例进行案例应用。参与者还可通过问答环节进行互动。
LangChain 博客精选AI 评分6161 LangChain 发布 GTM 智能体功能
LangChain 发布 GTM 智能体，可自动处理新线索的调研与邮件草稿生成，并聚合账户级信号以支持销售与工程团队。该功能基于 Deep Agents 构建，支持多工具协同、人类审核、学习反馈循环，并已集成至 Slack 与 LangSmith。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
LangChain 博客AI 评分3232 Credit Genie 如何用 OpenWiki 保持代码库文档更新
Credit Genie 采用 LangChain 的 OpenWiki 工具，自动化生成和维护代码库文档，解决了文档过时和部落知识问题。该系统每日通过 GitHub Pages 提供统一的可搜索界面，并在代码库中 openwiki/ 文件夹自动生成文档更新。团队通过此工具提升了跨系统协作效率，减少了手动维护需求，目前正计划整合内部跨仓库知识图谱以增强其智能性。
GitHub Blog · AI & MLAI 评分4343 GitHub Copilot 如何实现从策划到跟进的营销活动自动化
GitHub 日本与韩国营销负责人利用 GitHub Copilot 和 GitHub Actions，将营销活动从策划到跟进的全流程自动化。该系统以 GitHub Issue 为起点，通过 Issue 表单、标签和 Actions 工作流，自动处理活动落地页创建、链接生成、邮件发送、CRM 数据同步等重复任务。
NVIDIA · 开发者博客AI 评分2525 NVIDIA NIM 全栈优化如何为 Nemotron 3 Ultra 实现 2.5 倍用户并发提升
NVIDIA NIM 通过全栈优化，使 Nemotron 3 Ultra 模型在保持交互性的前提下，支持的并发用户数提升了 2.5 倍。该优化对于提示词较长、需跨步骤复用上下文的智能体 AI 工作负载尤为重要。
Google · AI BlogAI 评分1515 Google Search 的 3 种方式助你备战下一场大赛
Google Search 的 AI 功能可帮助跑者制定个性化训练计划、创建定制播放列表和选购合适装备。用户可通过 AI Mode 中的 Canvas 工具生成包含交叉训练和力量训练的详细日程，并连接 YouTube Music 账户获取跑步歌单。此外，借助涵盖超 600 亿产品列表的 Shopping Graph，Search 能提供符合预算等限制条件的装备推荐与比价。
NVIDIA · 开发者博客AI 评分2424 NVIDIA Dynamo 何时使用 Encode-Prefill-Decode 解耦以加速多模态模型推理
NVIDIA 介绍了使用 Encode-Prefill-Decode (EPD) 解耦技术来优化多模态模型推理。该技术将视觉编码器阶段与预填充和解码阶段分离，尤其适用于图像密集型提示词、中短输出及量化 MoE 模型。结合 NVIDIA Dynamo 使用，可实现高达 5 倍的推理加速。
Mistral AIAI 评分4848 Mistral AI 如何用智能体现代化复杂遗留代码
Mistral AI 帮助一家欧洲能源运营商将 40,000 行 Fortran 77 代码迁移至 C++，并重构了物理密集型的油藏模拟器架构。项目首先构建了数值对等性验证框架，确保新旧代码输出一致，并利用上百个 AI 智能体自动解析代码调用树、整合分散文档。通过采用“规划-编码-测试-评审”的多智能体工作流与人机协同检查点，最终在保障代码质量的同时完成了现代化重构。
Together AIAI 评分5050 Together AI 详解开源AI栈：从模型选择到工具集成的完整指南
Together AI 发布了一篇关于开源AI栈的深度指南，将栈分解为模型、推理、网关、工具等独立层，并解释了如何组合这些组件来构建自定义的AI开发工作流。
LangChain 博客AI 评分5252 LangChain 发布多智能体系统中的上下文管理新模式
LangChain 在 deepagents 框架中引入了 subagent 的两种上下文模式：isolated（隔离）和 fork（分叉）。isolated 模式下子智能体从零开始，仅接收任务描述；fork 模式下子智能体继承监督智能体的完整对话历史，避免重复上下文获取。
NVIDIA · 开发者博客AI 评分3434 使用 NVIDIA NemoClaw 构建记忆驱动型智能体
NVIDIA 团队利用 NemoClaw 构建了一个记忆驱动的“参谋长”智能体。该智能体通过维护一个名为“自我模型”的人类可读知识层来存储相关记忆，使 AI 能够理解并处理随时间变化的企业消息、决策、项目和职责等上下文信息。
NVIDIA · 开发者博客AI 评分3232 NVIDIA Jetson 如何部署与优化前沿推理模型
NVIDIA 介绍了在 Jetson 边缘计算平台上部署和优化前沿推理模型的方法。此举旨在解决多步推理模型因体积过大而难以在边缘硬件本地运行的问题，使开发者能够构建不依赖数据中心、降低成本和保护本地数据的智能体。
NVIDIA · 开发者博客AI 评分1616 NVIDIA 指南：如何在联邦 Kubernetes 与 AI 平台间传递用户身份
NVIDIA 发布指南，阐述如何在跨越控制平面和数据平面的联邦 Kubernetes 与 AI 平台中实现用户身份的无缝传递。该方案旨在解决用户从中央门户访问受管数据集、启动 Notebook 到调用跨集群 AI 服务时，身份认证边界断裂的问题，从而提供统一的工作流体验。
Neo4j 博客AI 评分3030 使用 Neo4j Document Intelligence 构建家庭作业问答图
Neo4j 新工具 Document Intelligence 可将非结构化 PDF 文档转换为图数据库，用于生成家庭作业问答对。该方法在免费版 Aura 中可用，通过手动定义包含“问题”和“答案”节点的图模型实现。用户可选择免费方案或集成 OpenAI、Bedrock 等 API 来评估回答。
NVIDIA · 开发者博客AI 评分3636 NVIDIA CUDA 工具箱实践：逐步优化指南
NVIDIA 博客通过一个图像处理管道示例，分六步演示了如何利用现代 CUDA 工具链优化代码。步骤包括使用 CCCL API 和 Compute Sanitizer 查找索引错误、利用 NVTX 改进 Nsight Systems 基准测试、采用 CUB 优化算法、通过池化容器管理 GPU 内存、使用固定容器加速主机到设备的数据传输，以及为每个线程分配独立流以实现异步传输和并行化。
NVIDIA · 开发者博客AI 评分3737 NVIDIA 探讨如何利用推测解码加速 LLM 推理
NVIDIA 提出通过推测解码加速大语言模型推理，并提供了在帕累托前沿选择草稿长度和草稿机制的五项指南。该方法旨在提升推理速度的同时保持模型准确性。
NVIDIA · 开发者博客AI 评分2323 使用 NVIDIA Nemotron 构建自适应智能体网络安全系统
NVIDIA 介绍了如何利用其 Nemotron 模型构建自适应智能体网络安全系统，以应对传统安全方案难以发现的未知威胁。该系统通过协调智能体工作，能够执行长期复杂的安全目标，旨在超越依赖现有警报和预定义工作流的传统实现。