ข้ามไปที่เนื้อหา
เฉพาะ บทสอน
5 พฤศจิกายนวันพฤหัสบดี
  1. The Pragmatic Engineer22

    การขยายระบบ Slack และ GitHub: Maude Lemaire ว่าด้วยประสิทธิภาพของแบ็กเอนด์และการแบ่งชาร์ดฐานข้อมูล

    Maude Lemaire วิศวกรหลักและผู้เขียนหนังสือ "Refactoring at Scale" ได้แบ่งปันมุมมองจากภายในเกี่ยวกับการขยายระบบ Slack และ GitHub ในพอดแคสต์ The Pragmatic Engineer เธอใช้เวลาเกือบแปดปีในการนำทีมโครงสร้างพื้นฐานด้านประสิทธิภาพของแบ็กเอนด์ที่ Slack จากนั้นเข้าร่วม GitHub ในปี 2024 เพื่อจัดการกับการขยายฐานข้อมูล และล่าสุดได้ทำงานด้านประสิทธิภาพที่ Cursor รวมถึงเวลาถึงโทเคนแรก เธออธิบายถึงขีดจำกัดอีโมจิที่กำหนดเอง 23 รายการของ Slack เพื่อหลีกเลี่ยง thundering herds ว่าการทดสอบโหลดการเชื่อมต่อ WebSocket 500,000 รายการด้วยวิธี naive จะมีค่าใช้จ่าย 150,000 ดอลลาร์ต่อการรันหนึ่งครั้ง และเหตุใด Active Record abstraction และ scatter queries ของ GitHub จึงจำกัดไว้ที่ 16 ชาร์ดฐานข้อมูล

4 พฤศจิกายนวันพุธ
  1. Meta Engineering Blog34

    Meta F3 Lightning เร่งการเปิดตัวฟีเจอร์ ML สำหรับโฆษณาเร็วขึ้น ~3.6 เท่า

    Meta เปิดตัว F3 Lightning ซึ่งเป็นชั้นโครงสร้างพื้นฐานบน Facebook Feature Framework (F3) ที่แยกการเปิดตัวฟีเจอร์ออกจากการประมวลผลร่วม ทำให้ฟีเจอร์จัดอันดับโฆษณากว่า 20,000 รายการแต่ละรายการถูกคอมไพล์ ตรวจสอบ ปรับใช้ และย้อนกลับได้อย่างอิสระ ฟีเจอร์การสกัดข้อมูลที่เทียบเคียงกัน kini ถึงการผลิตเร็วขึ้น ~3.6 เท่าเมื่อเทียบกับ F3 ก่อนหน้า โดยไม่มีต้นทุนการประมวลผลโครงสร้างพื้นฐานเพิ่มขึ้น

3 พฤศจิกายนวันอังคาร
  1. Google Developers Blog58

    Google ทดสอบคลาสซิฟายเออร์ราคาถูกเพื่อจัดเส้นทางโมเดล Gemini ตามต้นทุนต่องาน

    Google ได้รันเบนช์มาร์กเอเจนต์เขียนโค้ด 50 ข้อที่ตรวจอัตโนมัติ เพื่อทดสอบว่าคลาสซิฟายเออร์น้ำหนักเบาชื่อ Jev ของ TypeSafe สามารถจัดเส้นทางแต่ละงานไปยังการตั้งค่า Gemini ที่ถูกที่สุดซึ่งยังตอบถูกได้หรือไม่ regex แบบคงที่และฮิวริสติกตามความยาวพรอมป์ทำคะแนนได้ 93.8% บนคำถามพัฒนา 16 ข้อ แต่ลดลง 23.2 จุดเหลือ 70.6% บนงานที่กันไว้ทดสอบ 34 งาน ขณะที่ Jev ทำได้ 96.0% across ชุดทดสอบทั้งหมด การตั้งค่าที่ไม่มีเราเตอร์ที่แข็งแกร่งที่สุด คือ Gemini 3.8 Flash โหมดคิดต่ำ แก้ได้ทั้ง 50 งาน และเราเตอร์ Jev ที่ส่งงานไปยัง Flash-Lite ก่อนแล้วยกระดับงานที่ถูกตั้งธงก็แก้ได้ทั้ง 50 งานเช่นกัน พร้อมลดต้นทุนและเวลาตอบสนอง การจำกัด maxOutputTokens ที่ 300 ไม่ประหยัดอะไรบนงานง่าย และทำให้ 7 จาก 25 งานยากพัง