Modem 将向量搜索从 pgvector 迁移到 turbopuffer，p90 延迟降低 76%

Modem 将其嵌入向量从共享的多租户 Postgres pgvector 表中迁出，转入 turbopuffer——一个付费的专有搜索数据库。Modem 表示，此次切换使 p90 搜索时间缩短了 76%，并卸下了其数据库的大部分负载。 共享的 pgvector 表曾让最小的客户等待长达十秒，而添加 HNSW 索引反而使性能更差，因为向量搜索忽略了 organization_id 和时间过滤条件。到 2026 年 8 月，搜索时间中位数约为 0.8 秒，最慢的 1% 长达 28 秒。 Modem 表示，即便算上 turbopuffer 的费用，双系统架构仍使其整体存储账单——覆盖 Modem 全部数据而不仅是嵌入向量——降低了约 10%。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。