Botika 如何在 Modal 上運行全端生成式 AI

Botika 在 Modal 上運行其全端生成式 AI 業務，涵蓋 100 TB 的影像資料管線、數十億參數的自研基礎模型，以及約 15 個模型提供生產環境推論。該管線在數千個並行容器上處理該資料集，錯誤率低於 1%，而單一研究人員現在每天可執行 50 次實驗，而非過去的一到兩次。