AWS Machine Learning Blog· Arun Chandapillai·· 16 ชม. ที่แล้วคะแนน AI38
Tokenomics ในระดับสเกล: การติดตามและจำกัดการใช้จ่าย Amazon Bedrock ต่อ IAM Principal ด้วย CUR 2.0 และ AWS Budgets
Tokenomics at scale: Track and cap Amazon Bedrock spend per IAM principal with CUR 2.0 and AWS Budgets
สรุปโดย AI
AWS แสดงวิธีติดตามและจำกัดการใช้จ่ายของ Amazon Bedrock generative AI ต่อ IAM principal โดยใช้เฉพาะฟีเจอร์ที่มีอยู่แล้ว: Bedrock บันทึก IAM user หรือ role โดยอัตโนมัติในทุกคำขอ inference และแท็กเหล่านั้นกลายเป็น cost allocation tags ที่อ่านได้ใน Cost Explorer หรือไฟล์ส่งออก CUR 2.0 AWS Budget ที่กำหนดขอบเขตไปที่ Bedrock และกรองตาม identity หรือค่าแท็กหนึ่งค่า สามารถแนบ budget action ที่ใช้ Deny IAM policy เมื่อข้ามเกณฑ์ โดยไม่ต้องเขียนโค้ดแอปพลิเคชันสำหรับกรณีทั่วไป
แหล่งข่าว:AWS Machine Learning Blog · aws.amazon.com