跳至正文
熱點事件持續更新

AWS 與 Accenture 報告在 Bedrock 上節省 40–85% 的 token

1 篇報導1 個報導來源2 小時前更新

先了解這件事

AI 綜述

Accenture 在 Amazon Bedrock 上於四個客戶合作案中套用了六項 token 支出最佳化槓桿,AWS 表示,在測得節省成效之處,token 支出下降了約 40–85%。Accenture 表示,結果因各客戶的工作負載而異,且可能有所不同,並基於保密考量未公開客戶名稱。 這些槓桿涵蓋僅需調整設定的步驟——提示快取(AWS 表示可將快取輸入 token 成本降低最多 90%)與批次推論(便宜 50%)——乃至架構層面的變更,例如智慧提示路由(AWS 表示可節省最多 30%)。四個合作案中有兩個同時套用了多項變更,因此並未區分各槓桿的個別貢獻。 Accenture 透過「每筆業務交易成本」(Cost per Business Transaction)框架來闡述這項工作,將 token 消耗與業務成果連結,而非僅看原始 token 數量。

AI 依報導生成 · 1 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月20日
  1. AWS Machine Learning Blog
    以Accenture的分階段方法在Amazon Bedrock上最佳化AI經濟效益

    Accenture在Amazon Bedrock上的四個客戶專案中套用了六項權杖支出最佳化槓桿,在測得節省成效之處,權杖支出降低約40–85%。這些槓桿涵蓋僅需調整設定的步驟,例如提示快取(快取輸入權杖成本最多降低90%)與批次推論(便宜50%),以及架構層面的變更,例如智慧提示路由(最多節省30%)。Accenture的「每筆業務交易成本」框架將用量與業務成果連結起來。

本事件熱度走勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。