AWS Machine Learning Blog· Meghan Kothari·· 3 ชม. ที่แล้วคะแนน AI38
ลดต้นทุน AI สร้างสรรค์: เขียนโค้ดสำหรับกฎ ใช้โมเดลสำหรับการตัดสินใจ
Cut generative AI costs: Code for rules, models for judgment
สรุปโดย AI
AWS แนะนำให้ทีมส่งเฉพาะงานที่เปิดกว้างให้ LLM โดยเก็บการตรวจสอบอินพุต การจัดรูปแบบ และการกำหนดเส้นทางไว้ในโค้ดที่กำหนดผลได้แน่นอน เพื่อลดค่าใช้จ่าย ความหน่วง และความแปรปรวนของผลลัพธ์ บทความมีผังงานสามคำถาม—ตรวจสอบได้ด้วยกฎ เขียนกฎได้ด้วยโมเดล หรือเลือกจากรายการคงที่—จับคู่แต่ละขั้นตอนกับ AWS Lambda, Step Functions หรือโมเดล Amazon Bedrock ที่ปรับขนาดให้เหมาะสม
แหล่งข่าว:AWS Machine Learning Blog · aws.amazon.com