AssemblyAI 在 EC2 Spot Instances 上執行語音轉文字推論
熱點事件持續更新
AssemblyAI 在 EC2 Spot Instances 上執行語音轉文字推論
1 篇報導1 個報導來源1 小時前更新
先了解這件事
AI 綜述
AssemblyAI 在 Amazon ECS 上執行其 GPU 密集的語音轉文字推論,混合使用 EC2 Spot 與 On-Demand Instances,涵蓋美國西部(奧勒岡)與歐洲(倫敦)的 g4dn、g5 與 g6 GPU 系列。 為了在 Spot 容量被回收時維持服務承諾,一套以 Amazon SQS 為基礎的重試機制會透過 EventBridge 觸發的 Lambda 處理常式,將中斷的工作送回佇列。根據 AWS Machine Learning Blog,此架構在降低成本的同時,仍能維持 SLA 承諾。
AI 依報導生成 · 38 分鐘前更新
最新進展11月14日 03:35
AssemblyAI 使用 Amazon EC2 Spot Instances 在 AWS 上最佳化語音轉文字推論成本報導時間線
沿著報導,了解事件的不同側面。
11月14日
- AWS Machine Learning BlogAssemblyAI 使用 Amazon EC2 Spot Instances 在 AWS 上最佳化語音轉文字推論成本
AssemblyAI 在 Amazon ECS 上執行其 GPU 密集的語音轉文字推論,混合使用 EC2 Spot 與 On-Demand Instances,涵蓋 g4dn、g5 和 g6 GPU 系列,橫跨美國西部(奧勒岡)與歐洲(倫敦)。一套以 Amazon SQS 為基礎的重試機制,透過 EventBridge 觸發的 Lambda 處理常式將中斷的工作送回佇列,在維持 SLA 承諾的同時降低成本。
本事件熱度走勢
還沒有足夠的連續觀測資料,暫不繪製趨勢。