AWS Machine Learning Blog· Sai Pavan Kasani·· 17 小時前AI 評分36
影響成本的四個 Amazon Bedrock 推論選擇
Four Amazon Bedrock inference choices that affect cost
AI 導讀
Amazon Bedrock 的快取持續時間、服務層級、推理強度與 maxTokens 設定,能在不改變模型或提示詞的情況下改變推論成本。在 Claude Sonnet 5 與 Claude Opus 5 上,5 分鐘快取寫入的費用是輸入費率的 1.25 倍,1 小時寫入為 2 倍,快取讀取為 0.1 倍;對不支援的模型發出 Flex 層級請求會以 ValidationException 失敗。
來源:AWS Machine Learning Blog · aws.amazon.com