AWS 發布 NVIDIA Run:ai GPU Fractioning 的 Amazon EKS 指南
先了解這件事
AWS 的 Machine Learning Blog 發布了一份逐步指南,說明如何在 Amazon EKS 上設定 NVIDIA Run:ai GPU Fractioning,讓多個 Pod 在強制執行各 Pod 記憶體上限的前提下共用單一 GPU。在示範的設定中,一台配備 A10G GPU 的 g5.xlarge 執行個體執行兩個 Pod,每個 Pod 的合約為 8 GiB、配置 6 GiB,而 9 GiB 的要求則會被拒絕。此設定使用 KAI Scheduler 與來自開源 NVIDIA Run:ai 的 GPU Fractioning Operator,並需要建置自訂的 Amazon Linux 2023 映像。 該逐步指南僅驗證 G5/A10G 組態,且需要預先佈建的 GPU 容量。自訂映像無法在 Amazon EKS Auto Mode 管理的節點上執行,因為 Auto Mode 會選取並管理其 AMI。依照該逐步指南操作會建立可計費資源,包括 Amazon EKS 控制平面、NAT 閘道、執行個體、磁碟區與 AMI 快照。
AI 依報導生成 · 2 小時前更新
報導時間線
沿著報導,了解事件的不同側面。
- AWS Machine Learning Blog在 Amazon EKS 上使用 NVIDIA Run:ai GPU Fractioning
本逐步指南說明如何在 Amazon EKS 上設定 NVIDIA Run:ai GPU Fractioning,讓多個 Pod 共用一顆 GPU,並強制執行每個 Pod 的記憶體上限。在單一台配備 A10G 的 g5.xlarge 上,兩個 Pod 各自取得 8 GiB 的契約並配置 6 GiB,而 9 GiB 的要求則被拒絕。此流程使用 KAI Scheduler 與來自開源的 NVIDIA Run:ai 的 GPU Fractioning Operator。
本事件熱度走勢
- 可比範圍當前
- 9
- 可比範圍峰值
- 1011月20日 01:00
- 近 24 小時變化
- –
趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。