Suno 如何透過 Modal 將上市時程縮短 4 個月

Suno 使用 Modal 在數千個 GPU 上擴展推論與批次前處理，讓其音樂生成模型提前四個月上市，而不必雇用工程師來建置與維護基礎設施。團隊用幾段簡短的 Python 腳本、無需設定檔就完成了批次前處理，接著透過 HTTP 暴露的函式擴展到模型部署，並在多個模型與容器之間串接推論。Modal 可自動擴展至數千個 GPU，在無需長期預留 GPU 的情況下應付了假期需求高峰。