Meta 利用闲置推理容量提升广告推荐效果

Meta 构建系统利用闲置推理容量提升广告推荐效果，通过两个弹性机制 Rank More Ads (RMA) 和 Serve Better Models (SBM) 实现。RMA 在有闲置容量时增加广告候选集评估数量，SBM 将部分请求路由至更强大的模型，从而提高广告相关性与广告商收益。系统通过物理和逻辑隔离保护基础服务容量，并在容量突然被回收时通过负载控制实现优雅降级。