Modal ra mắt Endpoint Candidates để đánh giá và thăng cấp các endpoint suy luận

Modal đã phát hành Endpoint Candidates, hiện được cung cấp rộng rãi cho tất cả workspace, cho phép người dùng triển khai tạm các bản triển khai thay thế cho Dedicated Endpoints, sao chép một mẫu lưu lượng sản xuất trong khi Modal vận hành hạ tầng. Người dùng có thể kiểm tra các chỉ số độ trễ và thông lượng, chạy benchmark và kiểm thử chất lượng đầu ra qua URL riêng của từng Candidate, sau đó thăng cấp nó lên sản xuất từ dashboard. Các yêu cầu được sao chép là best-effort và được tính phí theo giá compute tiêu chuẩn của Modal.