Modal Blog·· 8 วันที่แล้วคะแนน AI22
Snorkel ใช้ Modal จำลองเอเจนต์สมจริงได้อย่างไร
How Snorkel runs realistic agent simulations with Modal
สรุปโดย AI
Snorkel ใช้ GPU และ CPU sandbox ของ Modal เพื่อรันการจำลองเอเจนต์หลายล้านครั้งต่อเดือน โดยมีอัตราสูงสุดถึงหลักหมื่น sandbox ต่อชั่วโมง และพึ่งพา Modal สำหรับการ inference บนโมเดล open-weight ที่ประเมิน การนำ memory bursting ของ Modal มาใช้ช่วยลดค่าใช้จ่าย sandbox ทั้งหมดของ Snorkel ลงประมาณ 20% โดยปัจจุบันมี sandbox ประมาณ 10-15% ที่ใช้ bursting Modal เป็นผู้ให้บริการ sandbox รายเดียวที่สามารถตอบสนองความต้องการ GPU sandbox ของ Snorkel ได้ในระดับขนาดใหญ่
แหล่งข่าว:Modal Blog · modal.com