Botika 如何在 Modal 上运行全栈生成式 AI

Botika 在 Modal 上运行其全栈生成式 AI 业务，涵盖 100 TB 的图像数据流水线、数十亿参数的自研基础模型，以及约 15 个用于生产推理的模型。该流水线在数千个并发容器上处理该数据集，错误率低于 1%，如今一名研究人员每天可运行 50 次实验，而过去只能运行一两次。