跳至正文
熱點事件觀察中

vLLM-Omni 在 Vera Rubin 上新增 Day-0 H3-Image 支援

1 篇報導1 個報導來源2 天前更新

先了解這件事

AI 綜述

vLLM-Omni 團隊在 NVIDIA Vera Rubin 上為 MiniMax 的 H3-Image 模型新增了 Day-0 服務支援。在其短提示服務基準測試中,原生 4096×4096 文字轉圖像生成在四張 GPU 上達到中位數 0.87 秒;另一套吞吐量配置則達到每小時 6,115 張圖像,團隊據此推算為每天 146,755 張圖像。這些數字不含營運成本,且每日容量是基於實測速率的推算值。 H3-Image 是一個開放權重模型,同時處理文字轉圖像與編輯,搭配 Qwen3-VL 編碼器、33.1B 稠密 DiT 與圖像 VAE,並以六個取樣步驟完成任一任務,最多可使用 16 張參考圖像。團隊將速度歸因於 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 快取,以及一項 VAE 解碼變更,將解碼時間從 2.635 秒縮短至 0.213 秒。Day-0 整合目前使用 MiniMax 的託管圖像 API,並列出適用於 AMD、Intel、華為昇騰與摩爾線程硬體的配置方案。

AI 依報導生成 · 16 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月12日
  1. vLLM Blog精選
    vLLM-Omni 在 Vera Rubin 上對 MiniMax H3-Image 進行基準測試:0.87 秒生成 4K 影像,每小時 6,115 張影像

    vLLM-Omni 將 MiniMax H3-Image 帶到 NVIDIA Vera Rubin,並測得在四張 GPU 上進行原生 4096×4096 文字轉圖像的中位延遲為 0.87 秒,另在獨立吞吐配置下達到每小時 6,115 張影像。H3-Image 是一個開放權重的文字轉圖像與編輯模型,結合 Qwen3-VL 編碼器、33.1B 稠密 DiT 與影像 VAE,以六個取樣步驟處理這兩項任務,並支援最多 16 張參考影像。團隊報告了 MXFP8 DiT GEMM、Ulysses SP4、AdaLN 快取,以及一項將解碼時間從 2.635 秒縮短至 0.213 秒的 VAE 解碼變更,並列出 AMD、Intel、華為昇騰與摩爾線程硬體的配置方案。

本事件熱度走勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。