AWS Machine Learning Blog· Arun Chandapillai·· 18 小時前AI 評分38
大規模 Tokenomics:使用 CUR 2.0 和 AWS Budgets 追蹤並限制每個 IAM 主體的 Amazon Bedrock 支出
Tokenomics at scale: Track and cap Amazon Bedrock spend per IAM principal with CUR 2.0 and AWS Budgets
AI 導讀
AWS 展示如何僅使用原生功能,按 IAM 主體追蹤並限制 Amazon Bedrock 生成式 AI 支出:Bedrock 會自動在每次推論請求中記錄 IAM 使用者或角色,這些標籤會成為成本分配標籤,可在 Cost Explorer 或 CUR 2.0 匯出中讀取。範圍設為 Bedrock 並篩選至單一身份或標籤值的 AWS Budget 可以附加預算動作,在超過閾值後套用 Deny IAM 政策,常見情況下無需應用程式碼。
來源:AWS Machine Learning Blog · aws.amazon.com