Modal Clusters chính thức khả dụng, chỉ với một dòng mã @modal.clustered để có cụm RDMA đa nút

Modal thông báo Modal Clusters đã chính thức khả dụng cho tất cả workspace, cho phép người dùng yêu cầu cụm đa nút thông qua decorator duy nhất @modal.clustered. Các cụm cung cấp giao tiếp InfiniBand RDMA lên đến 6,4 Tbps, tự động cấu hình cho PyTorch và NCCL, cụm khởi động trong vài giây và tính phí theo giây. Modal cũng mô tả một gang scheduler mới đặt N nút cùng lúc và hỗ trợ RDMA được tích hợp vào runtime gVisor, với Decagon, 1x và Runway được nêu là người dùng cho tinh chỉnh nghìn tỷ tham số, tiền huấn luyện world model và suy luận video đa nút.