vLLM-Omni ทดสอบ MiniMax H3-Image บน Vera Rubin: สร้างภาพ 4K ใน 0.87 วินาที และ 6,115 ภาพต่อชั่วโมง
H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin
vLLM-Omni นำ MiniMax H3-Image มาทำงานบน NVIDIA Vera Rubin และวัดเวลาแฝงมัธยฐานได้ 0.87 วินาทีสำหรับการสร้างภาพจากข้อความเป็น 4096×4096 แบบเนทีฟบนสี่ GPU พร้อมด้วย 6,115 ภาพต่อชั่วโมงในการกำหนดค่าด้านทรูพุตแยกต่างหาก H3-Image เป็นโมเดลสร้างและแก้ไขภาพจากข้อความแบบเปิดน้ำหนัก ที่จับคู่เอนโคเดอร์ Qwen3-VL กับ DiT แบบ dense 33.1B และ VAE สำหรับภาพ จัดการทั้งสองงานในหกขั้นตอนการสุ่มตัวอย่างด้วยภาพอ้างอิงสูงสุด 16 ภาพ ทีมรายงานว่าใช้ MXFP8 DiT GEMMs, Ulysses SP4, AdaLN caching และการเปลี่ยนแปลงการถอดรหัส VAE ที่ลดเวลาการถอดรหัสจาก 2.635 วินาทีเหลือ 0.213 วินาที พร้อมระบุสูตรการตั้งค่าสำหรับฮาร์ดแวร์ AMD, Intel, Huawei Ascend และ Moore Threads
การทดสอบของ vLLM-Omni แสดงให้เห็น MiniMax H3-Image ทำงานบน Vera Rubin ด้วยเวลาแฝง 4K ต่ำกว่าหนึ่งวินาที พร้อมการกำหนดค่าต่อฮาร์ดแวร์และแบบจำลองต้นทุนสำหรับเศรษฐศาสตร์ของการให้บริการ
แหล่งข่าว:vLLM Blog · vllm.ai