ข้ามไปที่เนื้อหา
AWS Machine Learning Blog· Meghan Kothari·· 3 ชม. ที่แล้วคะแนน AI38

ลดต้นทุน AI สร้างสรรค์: เขียนโค้ดสำหรับกฎ ใช้โมเดลสำหรับการตัดสินใจ

Cut generative AI costs: Code for rules, models for judgment

สรุปโดย AI

AWS แนะนำให้ทีมส่งเฉพาะงานที่เปิดกว้างให้ LLM โดยเก็บการตรวจสอบอินพุต การจัดรูปแบบ และการกำหนดเส้นทางไว้ในโค้ดที่กำหนดผลได้แน่นอน เพื่อลดค่าใช้จ่าย ความหน่วง และความแปรปรวนของผลลัพธ์ บทความมีผังงานสามคำถาม—ตรวจสอบได้ด้วยกฎ เขียนกฎได้ด้วยโมเดล หรือเลือกจากรายการคงที่—จับคู่แต่ละขั้นตอนกับ AWS Lambda, Step Functions หรือโมเดล Amazon Bedrock ที่ปรับขนาดให้เหมาะสม

แหล่งข่าว:AWS Machine Learning Blog · aws.amazon.com