vLLM-Omni adds Day-0 H3-Image support on Vera Rubin
เนื้อหานี้ยังไม่มีในภาษาของคุณ จึงแสดงเป็นEnglish
เริ่มตรงนี้
The vLLM-Omni team added Day-0 serving support for MiniMax's H3-Image model on NVIDIA Vera Rubin. In its short-prompt serving benchmark, native 4096×4096 text-to-image generation reached a median of 0.87 seconds on four GPUs; a separate throughput configuration delivered 6,115 images per hour, which the team projects to 146,755 images per day. Those figures exclude operating costs, and the daily capacity is an extrapolation of the measured rate. H3-Image is an open-weight model that handles both text-to-image and editing, pairing a Qwen3-VL encoder with a 33.1B dense DiT and an image VAE, and completing either task in six sampling steps with up to 16 reference images. The team attributes the speed to MXFP8 DiT GEMMs, Ulysses SP4, AdaLN caching and a VAE decoding change that cut decode time from 2.635s to 0.213s. The Day-0 integration currently uses MiniMax's hosted image API, and recipes are listed for AMD, Intel, Huawei Ascend and Moore Threads hardware.
สร้างจากรายงาน · อัปเดต 15 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- vLLM BlogคัดสรรvLLM-Omni ทดสอบ MiniMax H3-Image บน Vera Rubin: สร้างภาพ 4K ใน 0.87 วินาที และ 6,115 ภาพต่อชั่วโมง
vLLM-Omni นำ MiniMax H3-Image มาทำงานบน NVIDIA Vera Rubin และวัดเวลาแฝงมัธยฐานได้ 0.87 วินาทีสำหรับการสร้างภาพจากข้อความเป็น 4096×4096 แบบเนทีฟบนสี่ GPU พร้อมด้วย 6,115 ภาพต่อชั่วโมงในการกำหนดค่าด้านทรูพุตแยกต่างหาก H3-Image เป็นโมเดลสร้างและแก้ไขภาพจากข้อความแบบเปิดน้ำหนัก ที่จับคู่เอนโคเดอร์ Qwen3-VL กับ DiT แบบ dense 33.1B และ VAE สำหรับภาพ จัดการทั้งสองงานในหกขั้นตอนการสุ่มตัวอย่างด้วยภาพอ้างอิงสูงสุด 16 ภาพ ทีมรายงานว่าใช้ MXFP8 DiT GEMMs, Ulysses SP4, AdaLN caching และการเปลี่ยนแปลงการถอดรหัส VAE ที่ลดเวลาการถอดรหัสจาก 2.635 วินาทีเหลือ 0.213 วินาที พร้อมระบุสูตรการตั้งค่าสำหรับฮาร์ดแวร์ AMD, Intel, Huawei Ascend และ Moore Threads
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม