Weaviate Engram 智能体记忆实践指南
Weaviate 发布 Engram 智能体记忆服务的实践指南,介绍如何通过主题描述、边界设置、范围划分和检索模式控制记忆提取与调用,包含代码示例和提示词布局优化建议。
Weaviate 发布 Engram 智能体记忆服务的实践指南,介绍如何通过主题描述、边界设置、范围划分和检索模式控制记忆提取与调用,包含代码示例和提示词布局优化建议。
Together AI 发布 Canary rollouts 功能,支持在生产环境中无停机升级模型。该功能提供三种升级策略(Canary、Blue-green、Rolling),包含详细的健康检查机制和回滚方案。用户可通过 CLI、REST API 或 Python SDK 控制升级流程,系统会确保容量充足且流量只导向已就绪的副本。
NVIDIA TensorRT 11.0 引入了多设备推理功能,允许单个 TensorRT 网络利用 NCCL 分布式集合在多个 GPU 上执行,同时保持 TensorRT 的推理优化。该功能旨在解决生成式 AI 对计算和内存日益增长的需求,并已在 NVIDIA Dynamo-Triton 中得到支持。
TinyTorch 是一个免费开源的纯 Python 教学框架,旨在让学生从零开始构建一个可工作的 ML 框架,涵盖从张量到 Transformer 的 20 个模块。它完全复刻 PyTorch API,无需 GPU,在仅 4 GB 内存的笔记本电脑上即可运行。该项目源于哈佛大学的课程,现已发展为包含自动评分、里程碑验证和社区地图的完整教学体系,并被全球多所大学采用。
推荐理由:文章详细拆解了 TinyTorch 作为教学框架的设计哲学和模块结构,为教育者和自学者提供了清晰的实施蓝图。
Neo4j 推出基于知识图谱的生成式 AI 框架,通过结构化数据与非结构化数据的分层处理,提升回答的准确性与可验证性。该框架包含 GraphRAG 包、Needle StarterKit 2.1 和 DeepEval 评估系统,支持实体提取、向量嵌入、图像识别及多模态数据处理。知识图谱作为单一事实来源,结合推理模型,可减少幻觉并提高答案可信度。
Meta 开源了 Rebalancer,一个用于解决资源分配问题的通用高性能库,已在其基础设施中使用九年。该库通过分离问题定义、存储、求解和调试等环节,提升可用性与可扩展性,并支持将问题转化为可由本地搜索启发式或混合整数规划求解器处理的表达图。Rebalancer 提供了描述分配问题的 API,支持多种约束和目标,适用于服务器、任务、流量路由等场景。
NVIDIA Earth-2 平台帮助能源、应急管理等天气敏感行业整合来自资产、雷达和卫星的本地观测数据。该平台旨在利用这些实时数据,辅助组织理解和应对跨领域的物理风险。
Cloudflare Python Workers 现已正式发布,成为 Cloudflare 开发者平台的一等支持语言。Python Workers 原生支持所有 Cloudflare 绑定,开发者能以 Pythonic 方式无缝使用 Workers AI、R2、D1 等服务,并可直接运行 FastAPI、Django、Flask 等流行 Web 框架。
Vercel AI Gateway 现已支持通过现有 TypeSafe 客户端或 HTTP API 调用 TypeSafe AI 的 Jev 概率决策模型。Jev 接收状态并输出带有概率的强类型答案,无需解析生成文本。所有调用路径均通过 AI Gateway 计费,并可在使用情况和可观测性面板中与其他模型调用一同查看。
SpaceXAI 的 Grok 4.7 现已在 Vercel AI Gateway 上提供,模型 ID 为 spacexai/grok-4.7。在 9 月 27 日前使用该模型的请求自动享受 40% 折扣。
推荐理由:原文提供了 Grok 4.7 在 Vercel 平台的具体接入方式和限时折扣,读者可以据此评估其部署成本和使用门槛。
NVIDIA 发布了 AIPerf 基准测试工具,用于评估大语言模型在真实生产环境中的推理性能。该工具解决了单进程性能限制和 Python GIL 并发瓶颈等问题,能更准确地衡量模型部署后的实际速度。
mcp-handler v2.2.0 版本新增了对 WebMCP 标准的实验性支持,允许开发者通过添加脚本标签将现有 MCP 工具暴露给浏览器内的智能体。该功能通过代理调用支持已登录用户的认证工具,无需浏览器端 OAuth 流程。
Vercel 的 AI 代码生成工具 v0 现支持通过共享环境变量读取 npm 凭据,以安装私有包和自定义注册表中的依赖。团队可使用 `NPM_TOKEN` 访问 registry.npmjs.org 的私有包,或使用 `NPM_RC` 配置多个自定义注册库。凭据可标记为敏感信息,v0 不会将其暴露给模型或写入沙盒文件系统。
Jev 在 Vercel AI Gateway 上线 24 小时内,付费团队使用率达到了 13%,是 GPT-5.6 家族的两倍多,Fable 5.1 的六倍多,成为该平台历史上采用最快的模型。Jev 是一款由 TypeSafe AI 推出的概率决策模型,专为软件内的结构化决策设计,可并行评估问题并返回带概率的答案,据称在自身工作流评估中比大语言模型快 194 倍、便宜 445 倍。
推荐理由:原文提供了 Jev 在 Vercel AI Gateway 上的具体采用数据和性能对比,读者可以据此评估其市场接受度和技术定位。
Together AI 为一家全球金融科技公司部署 Dedicated Model Inference,支持 GLM-5.2 在 256K 上下文窗口下实现高并发编码代理负载,峰值并发达 178K tokens。该方案提供自服务端点控制、可编程指标 API 与模型灵活切换能力,实现零停机配置更新与团队级可观测性。
GLM 5.3 FlashX 现已通过 AI Gateway 提供服务,支持以约 200 tokens 每秒的速度进行推理,适用于代码智能体、工具循环和交互式应用。该模型可通过 API 格式调用,并支持自定义报告、API 密钥预算、路由规则等功能。AI Gateway 不加价反映模型提供方定价,且不收取平台费用,包括 Bring Your Own Key 请求。
Vercel 披露了与安全研究团队 Hacktron 合作处理 libheif 远程代码执行漏洞的完整过程。该漏洞影响 Next.js 图像优化链,Vercel 在平台层面禁用了 AVIF 优化,并协调 sharp、libvips 和 libheif 的维护者发布了上游修复。libheif 于 8 月 25 日发布了修复版本 v1.23.2,Next.js 也同步发布了安全更新。
推荐理由:原文完整记录了从漏洞发现、协调上游修复到平台级缓解的全过程,为处理开源供应链安全问题提供了具体案例。
fal 平台发布文章,详细介绍了视频生成模型 H3 Max 如何在其平台上完成从训练、部署到分发的全生命周期。H3 Max 在 fal Compute 上进行后训练,以在保持质量的同时最小化推理时间。
推荐理由:原文详细拆解了从模型训练优化到大规模部署的完整技术栈,展示了如何通过基础设施设计同时降低推理延迟和端到端延迟。
Vercel CLI 现在支持在一秒内部署静态资源,用户可通过命令 `vercel deploy` 立即分享原型、发布 HTML 报告或预览代码智能体生成的页面。该功能适用于包含最多 10 个 HTML 或 Markdown 文件、总大小不超过 5 MB 的目录,且支持 .html、.htm 和 .md 文件扩展名。需升级至 Vercel CLI 59.16.0 或更高版本以使用此功能。
Vercel 博客宣布,Turbo build machines 现在支持按每个部署单独启用。用户可通过在 Git 提交信息中添加 #VERCEL_BUILD_MACHINE=TURBO、使用 Vercel CLI 59.20.0 或更高版本的 vc deploy --turbo 命令,或在创建部署时将 buildMachine 设置为 turbo 实现。
Vercel Sandbox 现已支持运行 Harbor 评测,用户可通过 harbor run 命令在隔离的 Firecracker microVM 中并行执行 Terminal-Bench 等基准测试。
推荐理由:原文提供了在 Vercel Sandbox 上运行 Harbor 评测的具体命令和配置方式,读者可直接复用以并行化多模型基准测试。
Included Health 通过 LangGraph 和 Deep Agents 构建了一个联邦医疗智能体架构,用于其 AI 驱动的医疗导航平台 Dot。该架构允许智能体在不同子流程间保持语气和行为一致性,并通过共享文件系统传递上下文信息,避免用户重复说明。Deep Agents 还支持将临床能力封装为技能,供各智能体按需调用,提升对话的自然度和导航效率。
WRITER 的 AI 智能体与 Palmyra X6 基础模型能帮助外部销售代表规模化处理个性化沟通。系统通过连接器整合 Salesforce 和 Outlook 数据,为每次会议生成个性化简报与后续跟进草稿,并内置合规审查功能。这解决了销售代表在管理数百名顾问时,因信息分散和准备时间不足而难以建立深度信任关系的挑战。
Neo4j 推出 GraphAware Financial Crime Intelligence 和 Virtual Graph 等新功能,支持企业级 AI 应用扩展与复杂问题解决。
Neo4j 推出 Virtual Graph 功能,允许用户在 Snowflake、Databricks 和 Google BigQuery 等数据仓库中直接创建和查询知识图谱,无需复制数据。
GitHub Copilot 团队使用 GitHub Copilot 应用和 CLI,将 Copilot 智能体运行时从 TypeScript 完全重写为超过 80 万行生产级 Rust 代码。该项目主要由一名开发者在几个月内完成,性能提升了数个数量级,并支持通过 C ABI 进行进程内嵌入,为所有六种 SDK 语言版本提供了更优的性能和资源使用方案。
推荐理由:原文详细记录了用 AI 辅助将核心运行时从 TypeScript 重写为 Rust 的完整过程、技术决策和量化结果,为大规模工程迁移提供了具体参考。
Vercel 原生 Marketplace 资源连接功能现已支持自定义环境,此前仅限于生产、预览和开发环境。通过 Vercel 控制台、CLI 或 REST API 连接资源时可选择自定义环境,环境变量将被限定在所选环境中。该功能目前仅适用于 Pro 和 Enterprise 计划用户。
Weaviate 1.39 版本新增 4-bit 旋转量化(RQ)支持,并通过 SIMD 优化提升了 RQ 的编码速度。在 Intel Xeon 和 Apple M1 硬件上,RQ8 的编码速度分别提升 3.8 倍和 2.4 倍,RQ4 的编码速度也显著提高。同时,通过预取和内存访问优化,查询吞吐量提升 7–11%,导入速度加快 12%。
AI 智能体工作流可用于为物理 AI 系统准备和验证数字孪生。智能体能检查 3D 场景、在 OpenUSD 中编写仿真相关数据、添加物理属性、渲染预检视图,并根据仿真就绪(SimReady)要求验证结果。该流程可将 Blender 中的场景转化为仿真就绪的 OpenUSD 文件。
NVIDIA 推出 DeepSeek-V4.1-Flash-NVFP4 模型,该模型基于 DeepSeek-V4.1-Flash 进行量化,支持上下文长度达 1M tokens。
NVIDIA TensorRT Edge-LLM 在 Jetson AGX Thor 平台上运行 MLPerf Edge Agentic Benchmark,推理速度比基准快 6.4 倍。该基准测试模拟了 AI 智能体在边缘设备(如车辆、机器人)上执行多步骤任务的工作流。
Agentic AI 被用于缓解网络安全运营中心(SOC)中安全专业人员的认知负担,但其在缺乏部落知识(即经验性、非正式的上下文)时容易失效。文章指出,将机构知识硬编码进不同 AI 智能体会导致语义重复,使安全策略定义不一致。
NVIDIA 的 cuTile Rust 库借助智能体 AI 工具,可将基于 CUDA Tile 的 GPU 内核操作从 Python 自动翻译为 Rust 代码。该库将 Rust 的所有权模型扩展至基于 tile 的 GPU 内核,将可变输出拆分为互不相交的部分,并在内核启动间保持主机端的所有权契约。程序员在需要底层控制时,也可选择局部退出此安全模型。
图可视化工具通过将连接的数据转化为直观的交互式图表,帮助用户理解数据点之间的关系和影响。节点代表实体,关系以线条连接,属性控制颜色、大小等视觉元素。图可视化在欺诈检测、供应链映射和 AI 智能体记忆分析等场景中尤为关键,能揭示传统图表难以发现的多跳路径关联。Neo4j 提供了 Bloom、Dashboards 和 Visualization Library 等工具支持图可视化。
本文探讨了医疗健康与生命科学领域中构建智能体程序的挑战与实践,重点分析了 Madrigal Pharmaceuticals、Abridge 和 Vizient 的案例。
Together AI 发布从闭源模型向开源模型(OSM)迁移的完整策略,支持通过托管服务实现数周至数月的快速迁移,显著降低技术复杂度。该策略强调基于真实业务负载的评估,推荐使用 FrontierCode、LMArena、τ-bench 等基准,并结合实际流量回放进行性能与成本验证。最终目标是实现与闭源模型相当或更优的准确率与延迟表现,支持企业平稳过渡至开源生态。
Neo4j 博客通过实验对比原始图数据与预计算图指标(如社区检测、中心性)对AI检测金融欺诈的效果,发现富图结构能显著提升模型识别合成身份、可疑桥接账户和洗钱环路的精度与效率,避免模型在大量上下文token中无效消耗。实验使用3万账户、500万交易的合成数据集,验证了预计算拓扑指标对AI代理的增强作用。
推荐理由:通过对比原始图数据与预计算图指标对AI检测金融欺诈的效果,展示了结构化语义层如何提升模型效率与精度。
NVIDIA 博客对比了稠密模型与混合专家(MoE)模型架构的核心差异。以 Nemotron 3.5 Lightning 为例,其总参数量为 300 亿,但每个 token 仅激活约 30 亿参数,这得益于 MoE 架构仅选择部分专家网络处理输入。文章分析了两种架构在激活参数量、推理吞吐量以及适用场景上的权衡。
NVIDIA NVLink 6 为大规模 AI 工厂提供了多层弹性功能,旨在最大化集群的持续输出。在 AI 训练中,集群内每个 GPU 每秒需同步数千次梯度操作;在推理阶段,意外停机则会直接减少服务请求总量并限制收入。
NVIDIA Groq 3 LPX 确定性执行技术提升了 NVIDIA Vera Rubin AI 平台的能效与交互性。该技术旨在最大化有限功耗预算下的输出,将性能功耗比作为衡量 AI 平台价值的最终标准。