ข้ามไปที่เนื้อหา
AWS Machine Learning Blog· Muru Bhaskaran·· 3 ชม. ที่แล้วคะแนน AI34

การใช้ NVIDIA Run:ai GPU Fractioning บน Amazon EKS

Using NVIDIA Run:ai GPU Fractioning on Amazon EKS

สรุปโดย AI

บทแนะนำนี้แสดงวิธีกำหนดค่า NVIDIA Run:ai GPU Fractioning บน Amazon EKS เพื่อให้หลาย Pod ใช้ GPU ตัวเดียวร่วมกันโดยมีการบังคับใช้ขีดจำกัดหน่วยความจำต่อ Pod บน g5.xlarge เครื่องเดียวที่มี A10G สอง Pod แต่ละ Pod ได้สัญญา 8 GiB และจัดสรร 6 GiB ขณะที่คำขอ 9 GiB ถูกปฏิเสธ โดยใช้ KAI Scheduler และ GPU Fractioning Operator จาก NVIDIA Run:ai ที่เปิดโอเพนซอร์ส

แหล่งข่าว:AWS Machine Learning Blog · aws.amazon.com