ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

AWS เผยแพร่คู่มือ NVIDIA Run:ai GPU Fractioning สำหรับ Amazon EKS

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 3 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

บล็อก Machine Learning ของ AWS เผยแพร่บทแนะนำการกำหนดค่า NVIDIA Run:ai GPU Fractioning บน Amazon EKS ซึ่งช่วยให้หลาย Pod แชร์ GPU ตัวเดียวภายใต้ขีดจำกัดหน่วยความจำต่อ Pod ที่บังคับใช้ ในการสาธิตการตั้งค่า อินสแตนซ์ g5.xlarge หนึ่งตัวที่มี GPU A10G รันสอง Pod โดยแต่ละ Pod มีสัญญา 8 GiB และจัดสรร 6 GiB ขณะที่คำขอ 9 GiB ถูกปฏิเสธ การตั้งค่านี้ใช้ KAI Scheduler และ GPU Fractioning Operator จาก NVIDIA Run:ai ที่เปิดซอร์ส และต้องสร้างอิมเมจ Amazon Linux 2023 แบบกำหนดเอง บทแนะนำนี้ตรวจสอบเฉพาะการกำหนดค่า G5/A10G และต้องมี GPU capacity ที่จัดเตรียมไว้ล่วงหน้า อิมเมจแบบกำหนดเองไม่สามารถรันบนโหนดที่จัดการโดย Amazon EKS Auto Mode ได้ เนื่องจาก Auto Mode เลือกและจัดการ AMI ของโหนดเหล่านั้น การทำตามบทแนะนำนี้จะสร้างทรัพยากรที่คิดค่าใช้จ่าย รวมถึง control plane ของ Amazon EKS, NAT gateway, อินสแตนซ์, โวลุ่ม และสแนปช็อต AMI

สร้างจากรายงาน · อัปเดต 2 ชม. ที่แล้ว

ล่าสุด20 พฤศจิกายน 00:13
การใช้ NVIDIA Run:ai GPU Fractioning บน Amazon EKS

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

20 พฤศจิกายน
  1. AWS Machine Learning Blog
    การใช้ NVIDIA Run:ai GPU Fractioning บน Amazon EKS

    บทแนะนำนี้แสดงวิธีกำหนดค่า NVIDIA Run:ai GPU Fractioning บน Amazon EKS เพื่อให้หลาย Pod ใช้ GPU ตัวเดียวร่วมกันโดยมีการบังคับใช้ขีดจำกัดหน่วยความจำต่อ Pod บน g5.xlarge เครื่องเดียวที่มี A10G สอง Pod แต่ละ Pod ได้สัญญา 8 GiB และจัดสรร 6 GiB ขณะที่คำขอ 9 GiB ถูกปฏิเสธ โดยใช้ KAI Scheduler และ GPU Fractioning Operator จาก NVIDIA Run:ai ที่เปิดโอเพนซอร์ส

ความร้อนแรงของเหตุการณ์นี้

ช่วงปัจจุบันที่เทียบได้
9
จุดสูงสุดในช่วงที่เทียบได้
1020 พฤศจิกายน 01:00
การเปลี่ยนแปลงใน 24 ชั่วโมง
–

แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู