AWS Machine Learning Blog· Belair Albahagwi·· 2 小時前AI 評分30
AssemblyAI 使用 Amazon EC2 Spot Instances 在 AWS 上最佳化語音轉文字推論成本
Cost-optimizing AssemblyAI speech-to-text inference on AWS with Amazon EC2 Spot
AI 導讀
AssemblyAI 在 Amazon ECS 上執行其 GPU 密集的語音轉文字推論，混合使用 EC2 Spot 與 On-Demand Instances，涵蓋 g4dn、g5 和 g6 GPU 系列，橫跨美國西部（奧勒岡）與歐洲（倫敦）。一套以 Amazon SQS 為基礎的重試機制，透過 EventBridge 觸發的 Lambda 處理常式將中斷的工作送回佇列，在維持 SLA 承諾的同時降低成本。
來源:AWS Machine Learning Blog · aws.amazon.com