Meta Engineering Blog·· 16 天前AI 评分40
Meta Andromeda:Meta 下一代广告检索引擎每秒处理 10 亿条广告
Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design
AI 导读
Meta 详细介绍了其个性化广告检索引擎 Andromeda 的下一代版本,该引擎在生产环境中每秒对超过 10 亿条广告进行评分——相比 2024 年的系统吞吐量提升 100 倍。新架构将受 LLM 启发的混合专家模型引入检索环节,以约 300 分之一的推理 FLOPs 接近排序级模型性能,在单块 NVIDIA GH200 GPU 上每秒可处理超过 100 亿条广告。自 2025 年以来,Andromeda 已在 Facebook 上带来 2.4% 的转化率提升。
来源:Meta Engineering Blog · engineering.fb.com