跳到正文
  1. Engineering at Meta67

    Meta 构建组织级第二大脑:AI 从专家学习的系统设计

    Meta 发布了一套用于构建组织级AI第二大脑的系统架构,该系统通过分层设计(知识系统、推理管道、评估框架、自我改进循环)实现专家知识的结构化存储与自动化迭代。知识以可导航文件系统形式组织,推理通过可组合的‘配方’(recipes)实现,反馈通过自动化编译与回归测试转化为永久性知识更新,无需模型重训练。系统已在合规领域验证,显著减少专家评估时间,提升输出一致性,并支持跨领域扩展。

    推荐理由:原文构建了可审计、可迭代的AI知识系统,读者可参考其分层架构和自动化改进机制来设计企业级智能体系统。

  1. Engineering at Meta57

    Meta 发布专为 AI 规模设计的 RDMA 传输协议 MetaRoCE

    Meta 发布 MetaRoCE,这是一种专为 AI 工作负载设计的 RDMA 传输协议,适用于大规模以太网环境。MetaRoCE 通过 Open Compute Project (OCP) 开源了协议规范、参考软件实现和合规测试套件。

    推荐理由:Meta 开源了专为 AI 规模设计的 RDMA 传输协议 MetaRoCE,包含规范、参考实现和测试套件,可提升分布式训练和推理效率。

  2. Engineering at Meta55

    Meta发布MTIA 300训练芯片:集成NIC和通信卸载引擎

    Meta发布MTIA 300训练芯片,专为推荐和排序模型训练设计,集成12个800 Gbps RDMA NIC芯片,提供1.2 TB/s I/O带宽,通信与计算分离,通过16个专用消息引擎实现通信卸载,与GPU相比通信时间提升3.9倍。芯片支持HCCL通信库,可编译通信操作为独立子图,实现主机无干预执行,适用于PyTorch框架。

    推荐理由:原文详细说明了MTIA 300芯片的通信架构设计和性能提升,读者可据此理解其如何解决推荐模型训练中的通信瓶颈问题。

  1. Mistral AI68

    Mistral 推出区域推理端点、优先服务层并支持第三方开源模型

    Mistral 宣布推出 Mistral Regional Endpoints 和 Mistral Priority Tier,以增强推理的区域控制和生产级可靠性。其平台将开始支持第三方开源模型,首个为 Z.ai 的 GLM-5.2。Mistral 还联合企业成立联盟,通过欧洲计算单位(ECUs)来确保欧洲的长期 AI 算力供应,目标是到 2030 年建设高达 1 GW 的算力容量。

    推荐理由:Mistral 通过推出区域端点和优先服务层,为欧洲客户提供了符合数据驻留和监管要求的 AI 基础设施选项。

  1. Ollama 博客57

    Meta Superintelligence Labs 的 Muse Glimmer 模型已在 Ollama 上线

    Meta Superintelligence Labs 发布的首个开源多模态模型 Muse Glimmer 现已可在 Ollama 上运行。这是一个 30B 参数、专为本地智能体工作负载设计的模型,拥有 128K+ 上下文长度,采用 Apache 2.0 许可证。

    推荐理由:原文提供了模型参数、许可证、支持的智能体框架和性能优化细节,读者可以据此评估其本地部署的适用性。

已经到底了