AWS Machine Learning Blog· Arun Chandapillai·· 17 giờ trướcĐiểm AI38
Tokenomics ở quy mô lớn: Theo dõi và giới hạn chi tiêu Amazon Bedrock theo từng IAM Principal với CUR 2.0 và AWS Budgets
Tokenomics at scale: Track and cap Amazon Bedrock spend per IAM principal with CUR 2.0 and AWS Budgets
Tóm tắt bằng AI
AWS hướng dẫn cách theo dõi và giới hạn chi tiêu cho AI tạo sinh Amazon Bedrock theo từng IAM principal chỉ bằng các tính năng gốc: Bedrock tự động ghi lại IAM user hoặc role trên mỗi yêu cầu suy luận, và các thẻ đó trở thành thẻ phân bổ chi phí có thể đọc được trong Cost Explorer hoặc các bản xuất CUR 2.0. Một AWS Budget giới hạn phạm vi cho Bedrock và lọc theo một danh tính hoặc giá trị thẻ có thể gắn một hành động ngân sách áp dụng chính sách Deny IAM khi vượt ngưỡng, không cần mã ứng dụng cho trường hợp thông thường.
Nguồn:AWS Machine Learning Blog · aws.amazon.com