跳至正文
AWS Machine Learning Blog· Ilan Geller·· 2 小時前AI 評分36

以Accenture的分階段方法在Amazon Bedrock上最佳化AI經濟效益

Optimize AI economics on Amazon Bedrock with Accenture’s sequenced approach

AI 導讀

Accenture在Amazon Bedrock上的四個客戶專案中套用了六項權杖支出最佳化槓桿,在測得節省成效之處,權杖支出降低約40–85%。這些槓桿涵蓋僅需調整設定的步驟,例如提示快取(快取輸入權杖成本最多降低90%)與批次推論(便宜50%),以及架構層面的變更,例如智慧提示路由(最多節省30%)。Accenture的「每筆業務交易成本」框架將用量與業務成果連結起來。

來源:AWS Machine Learning Blog · aws.amazon.com