跳至正文
熱點事件持續更新

AssemblyAI 在 EC2 Spot Instances 上執行語音轉文字推論

1 篇報導1 個報導來源1 小時前更新

先了解這件事

AI 綜述

AssemblyAI 在 Amazon ECS 上執行其 GPU 密集的語音轉文字推論,混合使用 EC2 Spot 與 On-Demand Instances,涵蓋美國西部(奧勒岡)與歐洲(倫敦)的 g4dn、g5 與 g6 GPU 系列。 為了在 Spot 容量被回收時維持服務承諾,一套以 Amazon SQS 為基礎的重試機制會透過 EventBridge 觸發的 Lambda 處理常式,將中斷的工作送回佇列。根據 AWS Machine Learning Blog,此架構在降低成本的同時,仍能維持 SLA 承諾。

AI 依報導生成 · 38 分鐘前更新

報導時間線

沿著報導,了解事件的不同側面。

11月14日
  1. AWS Machine Learning Blog
    AssemblyAI 使用 Amazon EC2 Spot Instances 在 AWS 上最佳化語音轉文字推論成本

    AssemblyAI 在 Amazon ECS 上執行其 GPU 密集的語音轉文字推論,混合使用 EC2 Spot 與 On-Demand Instances,涵蓋 g4dn、g5 和 g6 GPU 系列,橫跨美國西部(奧勒岡)與歐洲(倫敦)。一套以 Amazon SQS 為基礎的重試機制,透過 EventBridge 觸發的 Lambda 處理常式將中斷的工作送回佇列,在維持 SLA 承諾的同時降低成本。

本事件熱度走勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。