AWS 與 Accenture 報告在 Bedrock 上節省 40–85% 的 token
熱點事件持續更新
AWS 與 Accenture 報告在 Bedrock 上節省 40–85% 的 token
1 篇報導1 個報導來源2 小時前更新
先了解這件事
AI 綜述
Accenture 在 Amazon Bedrock 上於四個客戶合作案中套用了六項 token 支出最佳化槓桿,AWS 表示,在測得節省成效之處,token 支出下降了約 40–85%。Accenture 表示,結果因各客戶的工作負載而異,且可能有所不同,並基於保密考量未公開客戶名稱。 這些槓桿涵蓋僅需調整設定的步驟——提示快取(AWS 表示可將快取輸入 token 成本降低最多 90%)與批次推論(便宜 50%)——乃至架構層面的變更,例如智慧提示路由(AWS 表示可節省最多 30%)。四個合作案中有兩個同時套用了多項變更,因此並未區分各槓桿的個別貢獻。 Accenture 透過「每筆業務交易成本」(Cost per Business Transaction)框架來闡述這項工作,將 token 消耗與業務成果連結,而非僅看原始 token 數量。
AI 依報導生成 · 1 小時前更新
最新進展11月20日 02:48
以Accenture的分階段方法在Amazon Bedrock上最佳化AI經濟效益報導時間線
沿著報導,了解事件的不同側面。
11月20日
- AWS Machine Learning Blog以Accenture的分階段方法在Amazon Bedrock上最佳化AI經濟效益
Accenture在Amazon Bedrock上的四個客戶專案中套用了六項權杖支出最佳化槓桿,在測得節省成效之處,權杖支出降低約40–85%。這些槓桿涵蓋僅需調整設定的步驟,例如提示快取(快取輸入權杖成本最多降低90%)與批次推論(便宜50%),以及架構層面的變更,例如智慧提示路由(最多節省30%)。Accenture的「每筆業務交易成本」框架將用量與業務成果連結起來。
本事件熱度走勢
還沒有足夠的連續觀測資料,暫不繪製趨勢。