Modem chuyển tìm kiếm vector từ pgvector sang turbopuffer, giảm độ trễ p90 76%
Bắt đầu từ đây
Modem đã chuyển embeddings của mình ra khỏi bảng pgvector Postgres đa người thuê dùng chung và sang turbopuffer, một cơ sở dữ liệu tìm kiếm độc quyền có trả phí. Modem cho biết việc chuyển đổi này đã giảm thời gian tìm kiếm p90 76% và giảm phần lớn tải khỏi cơ sở dữ liệu của mình. Bảng pgvector dùng chung từng khiến những khách hàng nhỏ nhất phải chờ tới mười giây, và việc thêm chỉ mục HNSW còn làm hiệu năng tệ hơn vì tìm kiếm vector bỏ qua các bộ lọc organization_id và thời gian. Đến tháng 8 năm 2026, tìm kiếm trung vị mất khoảng 0,8 giây và 1% chậm nhất mất tới 28 giây. Modem cho biết ngay cả khi tính cả phí của turbopuffer, thiết lập hai hệ thống vẫn giảm toàn bộ hóa đơn lưu trữ của mình, bao gồm toàn bộ dữ liệu Modem chứ không chỉ embeddings, khoảng 10%.
Tạo từ các bài viết · cập nhật 1 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIModem thay pgvector bằng turbopuffer, giảm 76% thời gian tìm kiếm p90
Modem đã chuyển embeddings khỏi bảng pgvector Postgres dùng chung sang turbopuffer, giảm 76% thời gian tìm kiếm p90 và giảm phần lớn tải cho cơ sở dữ liệu. Bảng đa thuê dùng chung khiến các khách hàng nhỏ nhất phải chờ tới mười giây, và việc thêm chỉ mục HNSW làm hiệu năng tệ hơn đáng kể vì tìm kiếm vector bỏ qua bộ lọc organization_id và thời gian. Đến tháng 8 năm 2026, tìm kiếm trung vị mất khoảng 0,8 giây và 1% chậm nhất mất tới 28 giây.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.