Modem 將向量搜尋從 pgvector 遷移到 turbopuffer，p90 延遲降低 76%

Modem 將其嵌入向量從共享的多租戶 Postgres pgvector 資料表中移出，改放到 turbopuffer，一個付費的專有搜尋資料庫。Modem 表示，這次切換讓 p90 搜尋時間縮短了 76%，並卸下了其資料庫的大部分負載。 共享的 pgvector 資料表曾讓最小的客戶等待長達十秒，而新增 HNSW 索引反而讓效能更差，因為向量搜尋忽略了 organization_id 與時間篩選條件。到了 2026 年 8 月，搜尋時間中位數約為 0.8 秒，最慢的 1% 則長達 28 秒。 Modem 表示，即使加上 turbopuffer 的費用，這套雙系統架構仍讓其整體儲存帳單降低約 10%，涵蓋 Modem 所有資料，而不只是嵌入向量。

AI 依報導生成 · 1 小時前更新

還沒有足夠的連續觀測資料，暫不繪製趨勢。