AWS Machine Learning Blog· Belair Albahagwi·· 2 giờ trướcĐiểm AI30
AssemblyAI sử dụng Amazon EC2 Spot Instances để tối ưu chi phí suy luận chuyển giọng nói thành văn bản trên AWS
Cost-optimizing AssemblyAI speech-to-text inference on AWS with Amazon EC2 Spot
Tóm tắt bằng AI
AssemblyAI chạy suy luận chuyển giọng nói thành văn bản chuyên sâu về GPU trên Amazon ECS với sự kết hợp giữa EC2 Spot và On-Demand Instances, trải rộng trên các dòng GPU g4dn, g5 và g6 tại US West (Oregon) và Europe (London). Cơ chế thử lại dựa trên Amazon SQS trả các công việc bị gián đoạn về hàng đợi thông qua một trình xử lý Lambda được kích hoạt bởi EventBridge, duy trì cam kết SLA trong khi cắt giảm chi phí.
Nguồn:AWS Machine Learning Blog · aws.amazon.com