Tới nội dung
Chỉ Sản phẩm
27 tháng 2, 2024Thứ Ba
  1. Modal Blog38

    Modal bổ sung hỗ trợ WebSocket cho ứng dụng thời gian thực

    Modal hiện đã hỗ trợ kết nối WebSocket, cho phép các hàm trên nền tảng của nó duy trì liên kết hai chiều, liên tục giữa máy khách và máy chủ thay vì kết nối HTTP theo từng yêu cầu. Mỗi kết nối WebSocket được tính là một đầu vào, vì vậy các hàm không bị giới hạn bởi CPU/GPU nên cho phép đầu vào đồng thời hoặc Modal khởi tạo một container mới cho mỗi kết nối. Modal tự động mở rộng các trình xử lý WebSocket, nhắm đến truyền phát thời gian thực, cập nhật tiến độ trên các tác vụ chạy dài và lưu trữ các framework như ComfyUI, Streamlit và Gradio.

15 tháng 2, 2024Thứ Năm
  1. Modal Blog22

    Cập nhật sản phẩm Modal: hỗ trợ WebSocket, lệnh tương tác và GPU H100

    Modal đã bổ sung hỗ trợ WebSocket cho các hàm của mình, cho phép lưu trữ sẵn các framework như Streamlit, cùng với các lệnh tương tác qua `modal container exec` để kiểm tra và gỡ lỗi các container đang hoạt động. GPU H100 hiện đã có sẵn trên Modal, và bản cập nhật client bổ sung các hook vòng đời `@build`, tự động commit nền cho Volumes, và mở rộng các lệnh CLI bao gồm get, put và rm.

6 tháng 2, 2024Thứ Ba
  1. Modal Blog38

    Modal cung cấp GPU NVIDIA H100 cho tất cả người dùng

    Modal đã cung cấp GPU NVIDIA H100 cho tất cả người dùng, với giá 7,65 USD mỗi giờ cho mỗi GPU. Kết quả đánh giá hiệu năng của NVIDIA cho thấy H100 mang lại tốc độ huấn luyện nhanh hơn tới 4 lần và tốc độ suy luận nhanh hơn tới 30 lần so với A100, với 80 GB DRAM trên chip và tối đa 8 GPU được liên kết qua NVLink với tốc độ 3,6 TB/s. Người dùng kích hoạt bằng cách đặt "H100" làm loại GPU trong decorator của Modal.