vLLM-Omni bổ sung hỗ trợ H3-Image ngay từ ngày đầu trên Vera Rubin
Bắt đầu từ đây
Nhóm vLLM-Omni đã bổ sung hỗ trợ phục vụ ngay từ ngày đầu (Day-0) cho mô hình H3-Image của MiniMax trên NVIDIA Vera Rubin. Trong bài benchmark phục vụ với prompt ngắn, tính năng tạo ảnh từ văn bản gốc 4096×4096 đạt mức trung vị 0,87 giây trên bốn GPU; một cấu hình thông lượng riêng đạt 6.115 ảnh mỗi giờ, mà nhóm dự phóng lên tới 146.755 ảnh mỗi ngày. Các con số này chưa bao gồm chi phí vận hành, và công suất theo ngày là kết quả ngoại suy từ tốc độ đo được. H3-Image là một mô hình trọng số mở, xử lý cả tạo ảnh từ văn bản lẫn chỉnh sửa ảnh, kết hợp bộ mã hóa Qwen3-VL với một DiT dày đặc 33,1B và một VAE hình ảnh, hoàn thành một trong hai tác vụ trong sáu bước lấy mẫu với tối đa 16 ảnh tham chiếu. Nhóm cho rằng tốc độ đạt được nhờ MXFP8 DiT GEMMs, Ulysses SP4, bộ nhớ đệm AdaLN và một thay đổi trong giải mã VAE giúp giảm thời gian giải mã từ 2,635 giây xuống 0,213 giây. Tích hợp Day-0 hiện đang dùng API hình ảnh được lưu trữ của MiniMax, và các công thức được liệt kê cho phần cứng AMD, Intel, Huawei Ascend và Moore Threads.
Tạo từ các bài viết · cập nhật 16 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- vLLM BlogTuyển chọnvLLM-Omni benchmark MiniMax H3-Image trên Vera Rubin: tạo ảnh 4K trong 0,87 giây và 6.115 ảnh/giờ
vLLM-Omni đã đưa MiniMax H3-Image lên NVIDIA Vera Rubin và đo được độ trễ trung vị 0,87 giây cho text-to-image gốc 4096×4096 trên bốn GPU, cùng 6.115 ảnh/giờ trong một cấu hình thông lượng riêng. H3-Image là mô hình text-to-image và chỉnh sửa ảnh trọng số mở, kết hợp bộ mã hóa Qwen3-VL với DiT dày đặc 33,1B và VAE hình ảnh, xử lý cả hai tác vụ trong sáu bước lấy mẫu với tối đa 16 ảnh tham chiếu. Nhóm báo cáo MXFP8 DiT GEMMs, Ulysses SP4, bộ nhớ đệm AdaLN và một thay đổi giải mã VAE giúp giảm thời gian giải mã từ 2,635 giây xuống 0,213 giây, đồng thời liệt kê các công thức cho phần cứng AMD, Intel, Huawei Ascend và Moore Threads.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.