AWS Machine Learning Blog· Belair Albahagwi·· 2 小时前AI 评分30
AssemblyAI 使用 Amazon EC2 Spot 实例优化 AWS 上语音转文本推理的成本
Cost-optimizing AssemblyAI speech-to-text inference on AWS with Amazon EC2 Spot
AI 导读
AssemblyAI 在 Amazon ECS 上运行其 GPU 密集型语音转文本推理，混合使用 EC2 Spot 和按需实例，覆盖美国西部（俄勒冈）和欧洲（伦敦）区域的 g4dn、g5 和 g6 GPU 系列。基于 Amazon SQS 的重试机制通过 EventBridge 触发的 Lambda 处理程序将中断的任务返回队列，在降低成本的同时保持 SLA 承诺。
来源:AWS Machine Learning Blog · aws.amazon.com