Reducto 如何在 Modal 上将企业文档处理的 P90 延迟降低 3 倍

Reducto 将其 30 多个文档处理模型的推理工作负载迁移到 Modal，使 P90 延迟降低了 3 倍。GPU 内存快照将冷启动减少了 83%，从约 70 秒降至约 12 秒，而按客户划分的自动扩缩容池可隔离流量峰值。在一次负载测试中，Reducto 在不到一小时内将摄取流水线扩展到 1,000 多块 GPU，以展示每分钟 10 万页的处理能力。