Engineering at Meta·· 2 小时前精选AI 评分54
Meta Andromeda 新一代广告检索系统发布：通过模型-系统-硬件协同设计实现每秒超十亿广告处理
Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design
AI 导读
Meta 发布新一代 Andromeda 广告检索系统，通过模型-系统-硬件协同设计，在单个 GH200 GPU 上实现每秒超十亿广告处理，吞吐量较2024版提升百倍，模型性能接近排名阶段水平，同时推理FLOPs减少约300倍。
推荐理由
原文详细说明了模型架构、系统协同设计和硬件优化，读者可据此理解如何在广告检索阶段实现近排名级性能与百倍吞吐量提升。
来源：Engineering at Meta · engineering.fb.com