Meta Andromeda：Meta 新一代廣告檢索引擎每秒處理 10 億則廣告

Meta 詳細介紹了新一代 Andromeda——其個人化廣告檢索引擎，在生產環境中每秒可評分超過 10 億則廣告，相較 2024 年系統吞吐量提升 100 倍。新架構將受 LLM 啟發的混合專家模型引入檢索，以約少 300 倍的推論時 FLOPs 達到接近排序級別的模型效能，在單張 NVIDIA GH200 GPU 上每秒可處理超過 100 億則廣告。自 2025 年以來，Andromeda 已為 Facebook 帶來 2.4% 的轉換率提升。