AI 日报 · 2026 年 10 月 21 日 · 星期三
SI信息茧房
PyTorch 官方发布 TorchTPU:原生支持 Google TPU 的 PyTorch 后端
PyTorch 官方发布 TorchTPU,这是一个由 Google 和 Meta 合作开发的开源项目,旨在为 Google TPU 提供原生的 PyTorch 后端。
模型发布/更新
Inception 发布 Mercury 3 扩散大语言模型
Inception 发布 Mercury 3,一款基于扩散架构的大语言模型,声称在自研基准上超越 GPT-6 Luna 和 Claude Haiku 5.5,生成速度达每秒 1000 token,上下文窗口达 100 万 token。
产品发布/更新
DeepSeek开源推理框架DeepInfer及编解码组件deepseek-recipe
DeepSeek开源其内部大规模云服务推理框架DeepInfer和生产级token编解码组件deepseek-recipe,支持英伟达与华为昇腾平台,实现高吞吐低延迟推理。
PyTorch 2.15 发布:MPS 支持 FP8 和更快的 LLM 解码
PyTorch 2.15 在 MPS 后端引入 FP8 精度支持,提升 Mac 上模型运行效率。MoE 模型解码速度提升 5–6.5×,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升至 61.3 tokens/s。
Mistral 发布 Voxtral 3 语音代理 SDK 和语音模型
Mistral 发布 Voxtral 3,包含语音转文字、文字转语音模型及语音代理 SDK,支持 50+ 语言实时多步对话,具备情绪适应、工具调用和主权部署能力。
Yana – 本地优先、人类主导的AI运行时与IDE发布
Yana 是一个本地优先、人类主导的AI运行时与IDE,用Rust编写,支持Claude、GPT、Gemini、DeepSeek等模型,通过权限控制、审计日志和人类干预机制确保AI行为受控。
Databricks 推出 MemCurrent 持久化记忆架构,用于生产级智能体
Databricks 发布 MemCurrent,一种用于生产级智能体的持久化记忆架构,集成于 Agent Bricks Memory 和 Genie。该架构包含 episodic 和 derived 两种记忆类型,通过插件、工具和离线‘dreaming’管道三种方式访问,实现在内部基准测试中相比无记忆方案三倍通过率、31%更少token和26%更快的性能。
Perplexity Computer新增Mac本地运行模式 支持设备端处理AI任务
Perplexity Computer在Mac版应用中新增完全本地运行模式,任务规划、推理、文件处理和工具执行均在设备端完成,支持操作本地文件及备忘录、信息、邮件等应用,使用Qwen 3.6或PPLX Pro模型,面向支持Apple芯片且内存至少36GB的Mac开放,仅限Pro、Max和Enterprise订阅用户使用。
行业动态
中国科技巨头据称斥资350亿美元订购NVIDIA RTX Pro 5500 GPU
中国科技巨头字节跳动、阿里巴巴和腾讯据称已订购超过300万张NVIDIA RTX Pro 5500工作站GPU,总价值超350亿美元。该GPU符合美国出口管制要求,但NVIDIA表示产能无法满足需求,预计仅能交付5%至10%。
马斯克称SpaceX与特斯拉已启动潜在合并研究
马斯克表示SpaceX与特斯拉已成立特别委员会研究潜在合并,称此举将整合双方在AI领域的布局,涉及超级智能软件开发。SpaceX市值约2万亿美元,特斯拉接近1.5万亿美元,合并或成史上最大交易。马斯克强调需获特斯拉全体股东50%批准,非板上钉钉。
美国国土安全部下令禁止联邦机构使用DeepSeek
美国国土安全部下令,要求所有联邦民用机构移除DeepSeek相关AI技术,理由是其模型存在多重安全威胁,可能使中国共产党获取美国政府基础设施的访问权限。该禁令依据2018年《联邦采购供应链安全法案》发布,涵盖所有与DeepSeek关联的产品及第三方服务。
- 美国政府禁止使用DeepSeek AI,涉及安全审查与中美科技竞争Hacker News · AI
技巧与观点
LLM路由的隐藏成本:模型切换为何更贵
作者通过实测对比三种路由策略(粘性路由、每请求交替、阶段边界切换)在vLLM服务器上的缓存使用情况,发现模型切换会重置缓存,导致大量重复计算。在20轮对话中,交替路由比粘性路由多计算1.9倍的token,成本仅节省13%;而阶段边界切换节省29%。
快讯
- DeepSeek与华为合作推进AI芯片国产化训练cnBeta
- Anthropic 为AI智能体重构源码控制系统 ScionHacker News · AI跟进
- Meta Muse共享功能暴露用户隐私信息Ars Technica · AI
- Ankita v2.6.0 发布:开源桌面 AI 伴侣支持 ChatGPT 浏览器集成与多工具协同Hacker News · AI
- 记忆张量发布 MemT 1.0 记忆原生大模型爱范儿
- Learning from Fleet Experience: A Collective Learning Paradigm for RobotsHugging Face · 每日论文
- Hugging Face 推出 TorchTPU:PyTorch 原生支持 TPUHugging Face Blog
- 如何降低 AI 智能体的 token 成本Hacker News · AI
- 美国制裁五家与中国谷歌AI商业机密窃取案相关的中国实体The Information
- Meta 详解 Ohio Prometheus 超算集群:目标 100 万 GPU,已用于 Muse 模型训练The Next Web