Modal 展示如何將 FLUX.1-dev 的執行速度提升三倍

Modal 工程師說明如何讓 Black Forest Labs 的 FLUX.1-dev 以自動擴展服務形式運行，速度約提升三倍，將 1024x1024 影像的生成時間從約 6.75 秒縮短至不到三秒。標準最佳化，即搭配 max-autotune 的 Torch 編譯器、融合 QKV 注意力與 channels-last 記憶體佈局，帶來約 1.5 倍提升；而來自 ParaAttention 儲存庫、基於 TEACache 論文的 First Block Caching，在閾值 0.12 下再增加 2 倍。編譯快取與 Modal Memory Snapshots 將冷啟動延遲降低 30 倍。