ข้ามไปที่เนื้อหา
AWS Machine Learning Blog· Sai Pavan Kasani·· 15 ชม. ที่แล้วคะแนน AI36

ตัวเลือกการอนุมานสี่แบบของ Amazon Bedrock ที่ส่งผลต่อค่าใช้จ่าย

Four Amazon Bedrock inference choices that affect cost

สรุปโดย AI

ระยะเวลาแคช ระดับบริการ ความพยายามในการให้เหตุผล และการตั้งค่า maxTokens ของ Amazon Bedrock สามารถเปลี่ยนค่าใช้จ่ายในการอนุมานโดยไม่ต้องเปลี่ยนโมเดลหรือพรอมต์ การเขียนแคช 5 นาทีบน Claude Sonnet 5 และ Claude Opus 5 มีค่าใช้จ่าย 1.25 เท่าของอัตราอินพุต การเขียนแคช 1 ชั่วโมงมีค่าใช้จ่าย 2 เท่า และการอ่านแคชมีค่าใช้จ่าย 0.1 เท่า คำขอระดับ Flex ไปยังโมเดลที่ไม่รองรับจะล้มเหลวด้วย ValidationException

แหล่งข่าว:AWS Machine Learning Blog · aws.amazon.com