跳到正文
7月16日周四
  1. Together AI38

    Together AI 解读推理服务 99.9% 可用性的含义

    Together AI 阐述了其实现 99.9% 推理服务可用性所需的多数据中心冗余架构与基础设施所有权。该公司通过持续向两个设施分发实时流量并保有备用容量,以应对整个数据中心故障。其全栈所有权提供了从芯片到 token 的可见性,确保在硬件、网络、存储或软件层出现问题时能统一响应。

7月15日周三
  1. Neo4j 博客21

    公共部门工作力量智能与复合问题

    公共部门面临复合型人力部署问题,需同时考虑人员技能、资质、位置及调动影响。Neo4j 的图智能平台通过构建知识层连接现有系统,提供统一视角分析人力部署。该平台不替换原有系统,而是基于结构化关系实现跨系统推理,帮助领导者快速回答复杂操作问题。

  2. MIT News · 人工智能52

    MIT JARVIS 挑战赛测试 AI 副驾驶在喷气发动机设计中的角色

    MIT 的 JARVIS 挑战赛让学生团队在四周内使用 AI 作为主要工程伙伴,设计、制造并测试小型喷气发动机。研究发现,AI 能显著加速安全关键硬件工程,但工程判断仍是决定性因素,而制造环节仍是根本性的速率限制步骤。获胜团队更依赖基础知识和团队合作,而非 AI。

7月14日周二
7月13日周一
7月11日周六
  1. fal 博客37

    FASHN AI:重新构想时尚与摄影

    FASHN 为时尚品牌提供规模化生成模特图与虚拟试穿的技术方案。其系统支持企业客户并行处理 500 个并发请求,能一次性处理整个产品目录。该方案旨在解决传统摄影的物流限制,并满足品牌对产品纹理、图案和颜色精确呈现的高要求。

7月10日周五
  1. fal 博客64

    fal 博客:无损实现亚秒级 Ideogram v4 图像生成的技术路径

    fal 团队通过量化感知蒸馏、时间步蒸馏和内核融合等技术,将 Ideogram v4 在 1K 分辨率下的单图生成时间从 2.75 秒降至 0.44 秒,实现 6 倍加速且无可见质量损失。核心方法包括将模型量化至 FP4 并融合 RMSNorm 等后处理算子、将分类器引导蒸馏为单分支前向,以及通过分布匹配蒸馏将去噪步骤大幅减少。

    推荐理由:原文详细拆解了从量化、蒸馏到内核融合的完整技术路径,为追求极致推理性能的团队提供了可复现的工程方案。

7月9日周四
7月8日周三
  1. Neo4j 博客38

    Neo4j 中使用 Cypher 实现混合搜索:结合全文、向量与图结构

    Neo4j 支持通过 Cypher 实现混合搜索,结合全文、向量和图结构等多种信号进行检索。该方法使用 WRRF(加权倒数排名融合)对多个来源的结果进行重新排序,提升同时出现在多个搜索中的结果权重。混合搜索可应用于支持案例调查,通过技术词汇、语义相似性或图结构关系找到相关案例。

7月7日周二
  1. Berkeley AI Research45

    Berkeley AI Research 视角:智能近乎免费时代下,面向、构成与由 AI 智能体驱动的数据系统

    随着 AI 推理成本急剧下降,GPT-4 级别能力的成本已从 2023 年初的每百万 token 约 30 美元降至如今低于 1 美元,部分提供商甚至低于 0.1 美元。这标志着足以胜任大多数知识工作的智能正变得近乎免费,从而催生了数据系统需为 AI 智能体设计、由智能体构成以及由智能体构建的三大新挑战与机遇。

7月4日周六
6月30日周二
6月29日周一
6月27日周六
  1. Ahead of AI50

    使用本地编码智能体:搭建与评估开源模型在Qwen-Code、Codex和Claude Code中的表现

    Sebastian Raschka 详细介绍了如何使用开源模型(如Qwen3.6 35B-A3B、North Mini Code)和本地推理引擎(如Ollama)搭建本地编码智能体,并对比了Qwen-Code、Codex和Claude Code三种框架在速度、任务完成率和token使用上的表现。文章包含性能基准测试、安全审计建议和跨设备部署方法,提供了可复用的评估脚本和配置示例。

  2. Weights & Biases32

    Building an observable robotics data flywheel

    通过 PPO、Weave 和合成遥测技术构建可观察的机器人数据飞轮,记录失败案例并在复杂赛道上重新训练模型,验证模型恢复效果。该方法支持在训练过程中实时监控数据流动,提升模型适应能力。技术方案适用于强化学习场景,强调数据闭环对机器人系统优化的重要性。

6月26日周五
  1. Weights & Biases14

    Kimi 2.7 在 W&B 推理平台上的入门使用

    Kimi 2.7 可通过 Weave 追踪、分析和评估逐步复杂化的软件工程任务。该模型支持在 W&B 推理平台进行部署和测试,适用于需要详细记录和评估模型行为的开发场景。用户可利用其进行代码生成、调试和性能优化的全流程管理。

6月25日周四
  1. Weaviate 博客30

    Weaviate 1.38 发布:HFresh 向量索引与 MCP 服务器正式上线

    Weaviate 1.38 版本正式上线,HFresh 磁盘向量索引和内置 MCP 服务器达到通用可用状态。HFresh 支持 cosine 和 l2-squared 距离度量,通过压缩存储和增量重平衡机制优化大规模数据的内存和延迟表现。MCP 服务器允许 LLM、IDE 和 AI 智能体直接与 Weaviate 交互,且新增运行时配置功能,无需重启集群即可启用或禁用写入权限。

6月24日周三
  1. Weights & Biases48

    ART-Optimized Megatron (AOM):12倍更高的训练吞吐量

    Weights & Biases 团队在其开源 ART 训练库中引入了 ART-Optimized Megatron (AOM),实现了 12 倍更高的训练吞吐量。该优化基于 Megatron-LM 的分布式训练架构,结合 ART 的自动资源调度功能,显著提升了大规模模型训练效率。AOM 适用于需要高吞吐训练的场景,且 ART 训练库为开源,可直接用于实验和部署。

6月23日周二
  1. Together AI62

    Together AI 发布多 GPU 内核生成基准 ParallelKernelBench,前沿模型表现不佳

    Together AI 发布多 GPU 内核生成基准 ParallelKernelBench,用于评估大模型编写跨 GPU 通信 CUDA 内核的能力。在 87 个真实代码问题中,表现最佳的 GPT-5.5 在单次尝试下仅正确解决 28 个问题,其中仅 22 个快于 PyTorch + NCCL 基线。研究揭示了模型在协调 GPU 间通信、数据分区和选择最优传输机制方面存在根本性困难。

6月18日周四
  1. Weaviate 博客62

    Weaviate 大规模数据导入与向量化实践指南

    Weaviate 官方发布大规模数据导入与向量化实践指南,涵盖服务器端批处理、错误处理与重试机制、数据类型选择、多模态数据处理(如 PDF、图像、视频)以及使用 blobHash 降低存储成本的方法。

    推荐理由:原文提供了大规模数据导入的完整实践指南,包括批处理、错误处理、数据类型选择和多模态处理,读者可直接用于优化现有流程。

6月12日周五
6月11日周四
  1. Ollama 博客58

    Ollama 发布 MLX 引擎更新,在 Apple Silicon 上实现最高性能

    Ollama 更新其 MLX 引擎,在 Apple Silicon 上实现了迄今为止的最高性能,支持 NVIDIA 的 NVFP4 量化格式以减少质量损失,并引入快照系统优化 Agent 工作流。新引擎输出速度提升最高达 20%,并允许数据中心优化的模型在桌面端运行。用户可通过下载最新版 Ollama 并使用 `ollama run gemma4:12b-mlx` 命令体验。

    推荐理由:Ollama 官方介绍了其 MLX 引擎在 Apple Silicon 上的多项性能优化,包括支持 NVFP4 量化格式和新的快照系统,对本地部署和 Agent 工作流有直接影响。

  2. Replit 博客30

    Replit | Databricks:快速应用构建与细粒度数据治理结合

    Replit 与 Databricks 集成新增用户到机器(U2M)连接器功能,支持基于 Unity Catalog 权限自动控制每个用户的数据访问范围。此次更新还开放了公测预览注册,企业团队可在 Replit 构建应用并直接部署至 Databricks,无需额外配置。Replit 提供静态 IP 支持,便于 IT 团队审批并确保与现有网络策略一致。

6月10日周三
  1. Replit 博客47

    Replit 推出 Package Firewall,每日拦截 8000 多个恶意软件包

    Replit 与软件供应链安全公司 Socket 合作推出默认启用的 Package Firewall,在网络层面实时拦截恶意或存在漏洞的软件包安装。该功能自一周前推出以来,每日拦截约 8000 个软件包,有效防范安装时即造成损害的恶意软件。当安装被拦截时,用户会收到明确提示,AI Agent 也能接收到相同信号并建议安全替代方案。

6月8日周一
  1. Fly.io 博客56

    Fly.io 博客:如何构建不会自我破坏的智能体

    Fly.io 博客介绍了如何通过将智能体的‘大脑’(控制循环)与‘双手’(代码执行环境)分离来构建更安全的智能体。核心方法是让智能体在持久的主机中运行,但将所有有风险的命令发送到独立的、一次性的 Sprite 沙箱中执行。文章以 SpriteDoc 和 Hermes Agent 两个项目为例,展示了这种架构如何实现多用户隔离、凭据安全、成本优化,并支持通过快照恢复来应对破坏性操作。

    推荐理由:文章通过两个具体项目案例,展示了如何利用沙箱隔离来构建更安全、可恢复的智能体,为开发者提供了可复用的架构思路。

6月5日周五
  1. Ollama 博客58

    Ollama 0.30 发布,提升性能并扩展 GGUF 模型支持

    Ollama 0.30 发布,通过集成 llama.cpp 提升了性能并扩展了对 GGUF 格式模型的兼容性。在 NVIDIA 硬件上,性能提升最高可达 20%;默认启用 Vulkan 支持,使 Ollama 的 GPU 加速能扩展到 AMD 和 Intel 设备。新版本支持更多模型系列,并允许用户通过 Modelfile 直接运行从 Hugging Face 下载的 GGUF 模型文件。

    推荐理由:Ollama 0.30 通过集成 llama.cpp 提升了 NVIDIA 硬件性能并扩展了 GGUF 模型支持,为本地部署提供了更广泛的硬件兼容性和更便捷的模型运行方式。

  2. Replit 博客58

    Replit 发布与 Shopify 集成的智能体功能,可对话创建电商店铺

    Replit 发布与 Shopify 集成的智能体功能,用户可通过对话描述需求,让 Agent 自动生成定制化店铺前端、创建 Shopify 店铺并添加产品。从第一个提示到接收真实订单大约只需十分钟。用户主要在 Replit 内完成店铺设计、产品管理和运营,只需在 Shopify 进行一次性的账户登录、店铺认领和支付设置。

    推荐理由:Replit 与 Shopify 的集成让用户通过对话就能创建并管理完整的电商店铺,降低了从想法到上线的门槛。

6月4日周四
  1. Ollama 博客61

    NVIDIA Nemotron 3 Ultra 模型上线 Ollama 云服务

    NVIDIA Nemotron 3 Ultra 模型已在 Ollama 云服务上线。这是一个 5500 亿参数(每 token 激活 550 亿)的开源模型,专为长流程智能体工作流设计,支持高达 100 万 token 的上下文窗口,并在智能体生产力、指令遵循和长上下文任务上具有领先的准确性和吞吐量。

    推荐理由:原文提供了模型的核心参数、设计目标和性能基准,读者可以据此评估其在长流程智能体任务中的适用性。