Modem ย้ายการค้นหาเวกเตอร์จาก pgvector ไปยัง turbopuffer ลดเวลาแฝง p90 ลง 76%
เริ่มตรงนี้
Modem ย้าย embeddings ออกจากตาราง pgvector ของ Postgres แบบ multi-tenant ที่ใช้ร่วมกันไปยัง turbopuffer ซึ่งเป็นฐานข้อมูลค้นหาแบบ proprietary ที่มีค่าใช้จ่าย Modem ระบุว่าการเปลี่ยนครั้งนี้ลดเวลาในการค้นหา p90 ลง 76% และลดภาระส่วนใหญ่ลงจากฐานข้อมูลของบริษัท ตาราง pgvector ที่ใช้ร่วมกันเคยทำให้ลูกค้ารายเล็กที่สุดต้องรอถึงสิบวินาที และการเพิ่มดัชนี HNSW ทำให้ประสิทธิภาพแย่ลงเพราะการค้นหาเวกเตอร์ไม่สนใจตัวกรอง organization_id และเวลา ภายในเดือนสิงหาคม 2026 การค้นหาค่ามัธยฐานใช้เวลาประมาณ 0.8 วินาที และ 1% ที่ช้าที่สุดใช้เวลานานถึง 28 วินาที Modem ระบุว่าแม้จะมีค่าธรรมเนียมของ turbopuffer การตั้งค่าระบบคู่ก็ยังลดค่าใช้จ่ายด้านพื้นที่จัดเก็บทั้งหมดลงได้ราว 10% ซึ่งครอบคลุมข้อมูลทั้งหมดของ Modem ไม่ใช่แค่ embeddings
สร้างจากรายงาน · อัปเดต 1 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIModem เปลี่ยนจาก pgvector เป็น turbopuffer ลดเวลา search p90 ลง 76%
Modem ย้าย embeddings ออกจากตาราง pgvector ที่ใช้ร่วมกันใน Postgres ไปยัง turbopuffer ทำให้เวลา search p90 ลดลง 76% และลดภาระส่วนใหญ่ของฐานข้อมูลลง ตาราง multi-tenant ที่ใช้ร่วมกันทำให้ลูกค้ารายเล็กที่สุดต้องรอถึงสิบวินาที และการเพิ่ม HNSW index ทำให้ประสิทธิภาพแย่ลงอย่างมีนัยสำคัญ เนื่องจากการค้นหาเวกเตอร์ไม่สนใจฟิลเตอร์ organization_id และ time ภายในเดือนสิงหาคม 2026 ค่ามัธยฐานของการ search ใช้เวลาประมาณ 0.8 วินาที และ 1% ที่ช้าที่สุดใช้เวลานานถึง 28 วินาที
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม