跳至正文
熱點事件持續更新

AWS 發布 NVIDIA Run:ai GPU Fractioning 的 Amazon EKS 指南

1 篇報導1 個報導來源3 小時前更新

先了解這件事

AI 綜述

AWS 的 Machine Learning Blog 發布了一份逐步指南,說明如何在 Amazon EKS 上設定 NVIDIA Run:ai GPU Fractioning,讓多個 Pod 在強制執行各 Pod 記憶體上限的前提下共用單一 GPU。在示範的設定中,一台配備 A10G GPU 的 g5.xlarge 執行個體執行兩個 Pod,每個 Pod 的合約為 8 GiB、配置 6 GiB,而 9 GiB 的要求則會被拒絕。此設定使用 KAI Scheduler 與來自開源 NVIDIA Run:ai 的 GPU Fractioning Operator,並需要建置自訂的 Amazon Linux 2023 映像。 該逐步指南僅驗證 G5/A10G 組態,且需要預先佈建的 GPU 容量。自訂映像無法在 Amazon EKS Auto Mode 管理的節點上執行,因為 Auto Mode 會選取並管理其 AMI。依照該逐步指南操作會建立可計費資源,包括 Amazon EKS 控制平面、NAT 閘道、執行個體、磁碟區與 AMI 快照。

AI 依報導生成 · 2 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月20日
  1. AWS Machine Learning Blog
    在 Amazon EKS 上使用 NVIDIA Run:ai GPU Fractioning

    本逐步指南說明如何在 Amazon EKS 上設定 NVIDIA Run:ai GPU Fractioning,讓多個 Pod 共用一顆 GPU,並強制執行每個 Pod 的記憶體上限。在單一台配備 A10G 的 g5.xlarge 上,兩個 Pod 各自取得 8 GiB 的契約並配置 6 GiB,而 9 GiB 的要求則被拒絕。此流程使用 KAI Scheduler 與來自開源的 NVIDIA Run:ai 的 GPU Fractioning Operator。

本事件熱度走勢

可比範圍當前
9
可比範圍峰值
1011月20日 01:00
近 24 小時變化
–

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。