Snorkel vận hành mô phỏng tác nhân thực tế với Modal như thế nào

Snorkel sử dụng các sandbox GPU và CPU của Modal để chạy hàng triệu mô phỏng tác nhân mỗi tháng, đạt đỉnh hàng chục nghìn sandbox mỗi giờ, và dựa vào Modal để suy luận trên các mô hình trọng số mở mà họ đánh giá. Việc áp dụng tính năng memory bursting của Modal đã cắt giảm tổng hóa đơn sandbox của Snorkel khoảng 20%, với khoảng 10-15% số sandbox của họ sử dụng bursting hiện nay. Modal là nhà cung cấp sandbox duy nhất có thể đáp ứng nhu cầu sandbox GPU của Snorkel ở quy mô lớn.