AWS Machine Learning Blog· Belair Albahagwi·· 2 ชม. ที่แล้วคะแนน AI30
AssemblyAI ใช้ Amazon EC2 Spot Instances เพื่อเพิ่มประสิทธิภาพต้นทุนสำหรับการประมวลผล speech-to-text บน AWS
Cost-optimizing AssemblyAI speech-to-text inference on AWS with Amazon EC2 Spot
สรุปโดย AI
AssemblyAI ประมวลผล speech-to-text ที่ใช้ GPU จำนวนมากบน Amazon ECS ด้วยการผสมผสานระหว่าง EC2 Spot และ On-Demand Instances ครอบคลุมตระกูล GPU g4dn, g5 และ g6 ในภูมิภาค US West (Oregon) และ Europe (London) กลไก retry ที่ใช้ Amazon SQS จะส่งงานที่ถูกขัดจังหวะกลับเข้าคิวผ่าน Lambda handler ที่ทริกเกอร์โดย EventBridge ซึ่งช่วยรักษาข้อผูกพัน SLA พร้อมลดต้นทุน
แหล่งข่าว:AWS Machine Learning Blog · aws.amazon.com