跳到正文

内容形态

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

49 条精选近 30 天 26 条共收录 277 条

更新

精选归档 · 第 2 页

9月18日周五第 21–40 条
  1. vLLM 官方博客60

    vLLM 新增 NVIDIA 硬件视频解码支持

    vLLM 新增对 NVIDIA 硬件视频解码的支持,通过 PyNvVideoCodec 实现视频解码从 CPU 向 GPU 的迁移,显著提升多 GPU 节点上的视频字幕生成吞吐量。在 8xH100 配置下,GPU 解码性能超过 CPU 解码一倍以上。支持 Qwen/Qwen3-VL-8B-Instruct 等轻量多模态模型,适用于自动驾驶等场景的视频描述任务。

    推荐理由:原文给出了硬件视频解码支持的接入方式和性能提升数据,读者可据此评估其对多GPU视频任务的优化效果。

  2. fal 博客63

    fal 平台详解 H3 Max 视频模型的训练、部署与分发全流程

    fal 平台发布文章,详细介绍了视频生成模型 H3 Max 如何在其平台上完成从训练、部署到分发的全生命周期。H3 Max 在 fal Compute 上进行后训练,以在保持质量的同时最小化推理时间。

    推荐理由:原文详细拆解了从模型训练优化到大规模部署的完整技术栈,展示了如何通过基础设施设计同时降低推理延迟和端到端延迟。

9月17日周四
  1. GitHub Blog · AI & ML70

    GitHub Copilot 运行时使用 Copilot 自身重写为 Rust

    GitHub Copilot 团队使用 GitHub Copilot 应用和 CLI,将 Copilot 智能体运行时从 TypeScript 完全重写为超过 80 万行生产级 Rust 代码。该项目主要由一名开发者在几个月内完成,性能提升了数个数量级,并支持通过 C ABI 进行进程内嵌入,为所有六种 SDK 语言版本提供了更优的性能和资源使用方案。

    推荐理由:原文详细记录了用 AI 辅助将核心运行时从 TypeScript 重写为 Rust 的完整过程、技术决策和量化结果,为大规模工程迁移提供了具体参考。

9月16日周三
  1. Neo4j 博客58

    Neo4j 博客:用富图结构提升AI金融风控效率

    Neo4j 博客通过实验对比原始图数据与预计算图指标(如社区检测、中心性)对AI检测金融欺诈的效果,发现富图结构能显著提升模型识别合成身份、可疑桥接账户和洗钱环路的精度与效率,避免模型在大量上下文token中无效消耗。实验使用3万账户、500万交易的合成数据集,验证了预计算拓扑指标对AI代理的增强作用。

    推荐理由:通过对比原始图数据与预计算图指标对AI检测金融欺诈的效果,展示了结构化语义层如何提升模型效率与精度。

9月15日周二
  1. LangChain 博客55

    LangChain 发布付费媒体智能体并开源

    LangChain 发布用于管理付费广告的智能体,支持跨平台数据整合、自动分析与提案,已开源并可通过 Managed Deep Agents 部署至 Slack。该智能体在六个月内使付费媒体贡献营销管道比例从 0 提升至 20%,成本下降 30%,并实现了 40 倍的报告生成效率提升。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

9月14日周一
  1. LangChain 博客61

    LangChain 发布 GTM 智能体功能

    LangChain 发布 GTM 智能体,可自动处理新线索的调研与邮件草稿生成,并聚合账户级信号以支持销售与工程团队。该功能基于 Deep Agents 构建,支持多工具协同、人类审核、学习反馈循环,并已集成至 Slack 与 LangSmith。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

8月26日周三
  1. LangChain 博客61

    Candidly 在 LangSmith 中构建状态感知智能体的实践

    Candidly 基于 LangSmith 构建了状态感知智能体,通过分析对话轨迹中的用户行为与代理响应特征,训练出一个输入-输出隐马尔可夫模型,实现对对话状态的实时推断,并据此动态调整响应策略,提升任务完成率。该方法将评估信号转化为控制信号,适用于多轮交互场景中的实时干预。

    推荐理由:原文详细展示了如何将对话分析转化为可实时干预的策略,为构建状态感知型智能体提供了可复用的方法论。

  2. LangChain 博客63

    LangChain 与 You.com 联合发布金融研究智能体框架

    LangChain 与 You.com 联合发布基于 Deep Agents 和 Finance Research API 的金融研究智能体框架,支持对欧盟27国2025年GDP数据进行自动化分析,实现异常检测、行业归因与可审计报告生成,完整执行过程通过 LangSmith 可视化追踪,提供可复现、可验证的AI研究工作流。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  3. LangChain 博客56

    Harmonic 用 Deep Agents 重构 Scout 实现 4 倍留存

    Harmonic 用 Deep Agents 重构其 AI 产品 Scout,将产品迭代周期从月级缩短至天级,通过单个前沿模型与工具集成实现开放任务处理,支持跨数据层与企业上下文的多步推理。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  4. LangChain 博客60

    LangSmith Engine 发布用于改进智能体的自动化工具

    LangSmith Engine 发布,是一个运行在代理追踪数据之上的智能体,可识别重复失败模式、生成可操作问题、提出评估器和数据集示例,并支持与代码库连接以推动修复。该工具通过轨迹压缩、分阶段筛查和专用子代理架构,实现对大规模追踪数据的高效分析,已在 LangChain 内部投入使用。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

8月25日周二
  1. The Pragmatic Engineer65

    Ramp 构建内部智能体 Inspect 的实践与架构

    Ramp 开发了名为 Inspect 的内部智能体,用于在远程沙箱环境中执行编码、调试、代码审查等任务。该系统基于 Cloudflare Durable Objects 和 Modal 沙箱,支持快速启动(<5秒)和跨功能协作,已覆盖75%的合并PR。Inspect 通过集成内部数据源与工具链,实现对前后端变更的自动验证,并作为平台支撑超过200个上层智能体,如自动修复、监控告警和数据分析代理。

    推荐理由:原文详细展示了内部智能体 Inspect 的构建逻辑与实际应用场景,读者可借鉴其架构设计与落地路径。

8月10日周一
8月6日周四
8月4日周二
  1. Neo4j 博客57

    Neo4j 发布支持多智能体系统的常量成本语义记忆工具

    Neo4j 发布 Semvec 及 Semvec Cortex 工具,通过在 Neo4j 图数据库中持久化语义记忆,实现单智能体与多智能体系统的常量 token 成本记忆机制。该工具支持跨会话、跨团队、跨班次的共享记忆、漂移检测、共识投票与行为一致性验证,所有功能通过 Python API 在本地运行,无需外部服务或网络调用。

    推荐理由:原文提供了可直接复用的代码实现和架构设计,读者可据此构建具有持久语义记忆的多智能体系统。

8月1日周六
  1. Together AI72

    月之暗面发布 Kimi K3:2.8万亿参数开源模型,支持1M上下文与多模态

    月之暗面发布 Kimi K3,2.8万亿参数开源模型,为首个3万亿参数级开源模型,支持1M上下文、多模态输入和动态工具加载。Together AI 提供 API 接入,支持 OpenAI 兼容调用,推理深度可调,定价按 token 计费,缓存命中输入价为每百万 token 0.30 美元。模型在 DeepSWE、BrowseComp 等基准上表现领先,支持结构化输出、流式响应和保留思考历史。

    推荐理由:原文提供了模型参数、架构创新、API 使用方式和定价,读者可据此判断其在长上下文、推理和多模态任务中的实际部署潜力。

7月23日周四
  1. Vector Institute54

    Vector Institute 发布多模态混合专家模型研究论文

    Vector Institute 发布关于多模态混合专家(MoE)模型的研究论文,系统分析了从稀疏路由到多模态部署的架构原理与训练挑战,实证揭示了模型在早期层按模态路由、深层按语义路由的结构演化规律,并提出通过QLoRA、Flash Attention 2与lm_head预钩子实现35.26B参数模型在四张A100 GPU上的可训练性,同时指出专家并行是长期可行方向。

    推荐理由:原文通过实证分析揭示了多模态MoE模型在路由机制与训练实践中的关键规律,为后续优化提供了可复用的方法论。

7月13日周一
7月10日周五
  1. fal 博客64

    fal 博客:无损实现亚秒级 Ideogram v4 图像生成的技术路径

    fal 团队通过量化感知蒸馏、时间步蒸馏和内核融合等技术,将 Ideogram v4 在 1K 分辨率下的单图生成时间从 2.75 秒降至 0.44 秒,实现 6 倍加速且无可见质量损失。核心方法包括将模型量化至 FP4 并融合 RMSNorm 等后处理算子、将分类器引导蒸馏为单分支前向,以及通过分布匹配蒸馏将去噪步骤大幅减少。

    推荐理由:原文详细拆解了从量化、蒸馏到内核融合的完整技术路径,为追求极致推理性能的团队提供了可复现的工程方案。

6月18日周四
  1. Weaviate 博客62

    Weaviate 大规模数据导入与向量化实践指南

    Weaviate 官方发布大规模数据导入与向量化实践指南,涵盖服务器端批处理、错误处理与重试机制、数据类型选择、多模态数据处理(如 PDF、图像、视频)以及使用 blobHash 降低存储成本的方法。

    推荐理由:原文提供了大规模数据导入的完整实践指南,包括批处理、错误处理、数据类型选择和多模态处理,读者可直接用于优化现有流程。