Suno 如何借助 Modal 将上线时间缩短 4 个月

Suno 使用 Modal 在数千块 GPU 上扩展推理和批量预处理，使其音乐生成模型提前四个月推向市场，而无需招聘工程师来构建和维护基础设施。团队用几个简短的 Python 脚本、无需配置文件就完成了批量预处理，随后通过暴露 HTTP 的函数和跨多个模型与容器的链式推理扩展到模型部署。Modal 自动扩展到数千块 GPU，应对了假期需求高峰，且无需长期预留 GPU。