ข้ามไปที่เนื้อหา

บริษัทและโมเดล

NVIDIA ล่าสุด

GPU รุ่นใหม่ ระบบนิเวศซอฟต์แวร์ CUDA แพลตฟอร์มหุ่นยนต์ และอุปสงค์อุปทานกำลังประมวลผล AI ของ NVIDIA

41 รายการคัดสรร40 รายการใน 30 วันที่ผ่านมาเก็บไว้ 141 รายการ

อัปเดต 20 พฤศจิกายน 04:43

NVIDIA · คัดสรร · หน้า 3

30 กรกฎาคม 2025วันพุธรายการ 41–41 จากทั้งหมด 41
  1. Modal Blog60

    Modal เปิดตัว GPU memory snapshots สำหรับการเริ่มต้นแบบ serverless ที่ใช้เวลาต่ำกว่าหนึ่งวินาที

    Modal ประกาศเปิดตัว GPU memory snapshots ในเวอร์ชัน alpha โดยขยายระบบ checkpoint/restore ที่มีอยู่ให้สามารถบันทึก GPU vRAM, CUDA kernels, streams และ contexts เพื่อให้ GPU workloads กู้คืนจากสถานะที่หยุดไว้แทนการสร้าง CUDA state ใหม่หลังบูต

    ทำไมเรื่องนี้สำคัญ: Modal เพิ่ม GPU state เข้าไปใน memory snapshots ของตน ช่วยลดเวลา cold boot สำหรับ torch.compile และ vLLM workloads ได้มากถึง 10 เท่า และทำให้ scale-to-zero ใช้งานได้จริงมากขึ้น