ข้ามไปที่เนื้อหา
AWS Machine Learning Blog· Ilan Geller·· 2 ชม. ที่แล้วคะแนน AI36

เพิ่มประสิทธิภาพเศรษฐศาสตร์ AI บน Amazon Bedrock ด้วยแนวทางแบบลำดับขั้นของ Accenture

Optimize AI economics on Amazon Bedrock with Accenture’s sequenced approach

สรุปโดย AI

Accenture นำคันโยกเพิ่มประสิทธิภาพการใช้จ่ายโทเคน 6 รายการมาใช้ในงานกับลูกค้า 4 รายบน Amazon Bedrock โดยลดการใช้จ่ายโทเคนได้ราว 40–85 เปอร์เซ็นต์ในกรณีที่มีการวัดผลประหยัด คันโยกเหล่านี้ครอบคลุมทั้งขั้นตอนที่ปรับได้เฉพาะการตั้งค่า เช่น prompt caching (ลดต้นทุนโทเคนอินพุตที่แคชไว้ได้สูงสุด 90 เปอร์เซ็นต์) และ batch inference (ถูกลง 50 เปอร์เซ็นต์) รวมถึงการเปลี่ยนแปลงเชิงสถาปัตยกรรม เช่น intelligent prompt routing (ประหยัดได้สูงสุด 30 เปอร์เซ็นต์) กรอบ Cost per Business Transaction ของ Accenture เชื่อมโยงการใช้จ่ายเข้ากับผลลัพธ์ทางธุรกิจ

แหล่งข่าว:AWS Machine Learning Blog · aws.amazon.com