AWS 發布 Bedrock 每任務成本與代理 ROI 框架
先了解這件事
AWS 的 Machine Learning Blog 發布了一套框架，主張以每任務成本而非每 token 成本來評判 Amazon Bedrock 的支出，並認為分詞器效率、輸出冗長程度、代理迴圈次數與推理開銷，可能使標價較低的模型在實務上反而更貴。在該文唯一的實例中，一個標價為兩倍的模型，每任務成本反而低了 65%；文章也建議以快取、路由與輸出約束來降低每任務成本，並提出以保留實驗與五維評分卡，對照人工基準來衡量代理 ROI。 AWS 後續一篇文章詳述四項 Bedrock 推理設定，可在不改變模型或提示的情況下改變成本：快取時長、服務層級、推理強度與 maxTokens。文中指出，在 Claude Sonnet 5 與 Claude Opus 5 上，5 分鐘快取寫入的費用為輸入費率的 1.25 倍、1 小時寫入為 2 倍，而快取讀取為 0.1 倍；對不支援的模型發出 Flex 層級請求會以 ValidationException 失敗。這些是文章自身的建議與數字，並非獨立基準測試。
AI 依報導生成 · 19 小時前更新
事件進展
2 個進展
- 11月13日 04:51 · 1 篇報導影響成本的四項 Amazon Bedrock 推理選擇AWS Machine Learning Blog：影響成本的四個 Amazon Bedrock 推論選擇
- 11月13日 02:43 · 1 篇報導在 Be 上發布每任務成本與代理 ROI 框架AWS Machine Learning Blog：在 Amazon Bedrock 上最佳化每項任務成本並證明代理投資報酬率
報導時間線
沿著報導，了解事件的不同側面。
- AWS Machine Learning Blog影響成本的四個 Amazon Bedrock 推論選擇
Amazon Bedrock 的快取持續時間、服務層級、推理強度與 maxTokens 設定，能在不改變模型或提示詞的情況下改變推論成本。在 Claude Sonnet 5 與 Claude Opus 5 上，5 分鐘快取寫入的費用是輸入費率的 1.25 倍，1 小時寫入為 2 倍，快取讀取為 0.1 倍；對不支援的模型發出 Flex 層級請求會以 ValidationException 失敗。
- AWS Machine Learning Blog在 Amazon Bedrock 上最佳化每項任務成本並證明代理投資報酬率
這篇 AWS 文章主張，Amazon Bedrock 的支出應以每項任務成本而非每詞元成本來衡量，因為分詞器效率、輸出冗長程度、代理迴圈次數與推理額外開銷，可能讓價格較低的模型反而成本更高。文中一個實例顯示，列表價格為兩倍的模型，每項任務的完成成本反而低 65%；文章還補充快取、路由與輸出限制，以及一套五維度評分卡，用來對照人工基準衡量代理的投資報酬率。
本事件熱度走勢
還沒有足夠的連續觀測資料，暫不繪製趨勢。