AssemblyAI chạy suy luận chuyển giọng nói thành văn bản trên EC2 Spot Instances
Bắt đầu từ đây
AssemblyAI chạy suy luận chuyển giọng nói thành văn bản nặng về GPU trên Amazon ECS bằng cách kết hợp EC2 Spot và On-Demand Instances, trải rộng trên các dòng GPU g4dn, g5 và g6 tại US West (Oregon) và Europe (London). Để duy trì cam kết dịch vụ khi dung lượng Spot bị thu hồi, cơ chế thử lại dựa trên Amazon SQS sẽ đưa các công việc bị gián đoạn trở lại hàng đợi thông qua một Lambda handler được kích hoạt bởi EventBridge. Theo AWS Machine Learning Blog, thiết lập này vừa giữ được cam kết SLA vừa giảm chi phí.
Tạo từ các bài viết · cập nhật 37 phút trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- AWS Machine Learning BlogAssemblyAI sử dụng Amazon EC2 Spot Instances để tối ưu chi phí suy luận chuyển giọng nói thành văn bản trên AWS
AssemblyAI chạy suy luận chuyển giọng nói thành văn bản chuyên sâu về GPU trên Amazon ECS với sự kết hợp giữa EC2 Spot và On-Demand Instances, trải rộng trên các dòng GPU g4dn, g5 và g6 tại US West (Oregon) và Europe (London). Cơ chế thử lại dựa trên Amazon SQS trả các công việc bị gián đoạn về hàng đợi thông qua một trình xử lý Lambda được kích hoạt bởi EventBridge, duy trì cam kết SLA trong khi cắt giảm chi phí.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.