ข้ามไปที่เนื้อหา
เฉพาะ ผลิตภัณฑ์
27 กุมภาพันธ์ 2024วันอังคาร
  1. Modal Blog38

    Modal เพิ่มการรองรับ WebSocket สำหรับแอปแบบเรียลไทม์

    Modal รองรับการเชื่อมต่อ WebSocket แล้ว ทำให้ฟังก์ชันบนแพลตฟอร์มสามารถคงการเชื่อมต่อแบบสองทิศทางที่ต่อเนื่องระหว่างไคลเอนต์และเซิร์ฟเวอร์ แทนที่จะเป็นการเชื่อมต่อ HTTP ต่อคำขอ แต่ละการเชื่อมต่อ WebSocket นับเป็นอินพุตหนึ่งรายการ ดังนั้นฟังก์ชันที่ไม่ถูกจำกัดด้วย CPU/GPU ควรอนุญาตให้มีอินพุตพร้อมกัน หรือ Modal จะสร้างคอนเทนเนอร์ใหม่ต่อการเชื่อมต่อหนึ่งครั้ง Modal ปรับขนาดตัวจัดการ WebSocket โดยอัตโนมัติ มุ่งเป้าไปที่การสตรีมแบบเรียลไทม์ การอัปเดตความคืบหน้าของงานที่ใช้เวลานาน และการโฮสต์เฟรมเวิร์กอย่าง ComfyUI, Streamlit และ Gradio

15 กุมภาพันธ์ 2024วันพฤหัสบดี
  1. Modal Blog22

    อัปเดตผลิตภัณฑ์ Modal: รองรับ WebSocket, คำสั่งแบบอินเทอร์แอกทีฟ และ GPU H100

    Modal ได้เพิ่มการรองรับ WebSocket ให้กับฟังก์ชันของตน ทำให้สามารถโฮสต์เฟรมเวิร์กอย่าง Streamlit ได้แบบพร้อมใช้ พร้อมทั้งคำสั่งแบบอินเทอร์แอกทีฟผ่าน `modal container exec` สำหรับตรวจสอบและดีบักคอนเทนเนอร์ที่กำลังทำงานอยู่ ขณะนี้ GPU H100 พร้อมใช้งานบน Modal แล้ว และการอัปเดตไคลเอนต์ได้เพิ่ม lifecycle hooks `@build` การคอมมิตเบื้องหลังอัตโนมัติสำหรับ Volumes และคำสั่ง CLI ที่ขยายเพิ่มเติม ได้แก่ get, put และ rm

6 กุมภาพันธ์ 2024วันอังคาร
  1. Modal Blog38

    Modal เปิดให้ผู้ใช้ทุกคนเข้าถึง GPU NVIDIA H100

    Modal เปิดให้ผู้ใช้ทุกคนเข้าถึง GPU NVIDIA H100 ในราคา 7.65 ดอลลาร์ต่อชั่วโมงต่อ GPU ผลทดสอบของ NVIDIA แสดงว่า H100 ให้ความเร็วในการฝึกสูงสุดถึง 4 เท่า และความเร็วในการอนุมานสูงสุดถึง 30 เท่าเมื่อเทียบกับ A100 พร้อม DRAM บนชิป 80 GB และเชื่อมต่อ GPU ได้สูงสุด 8 ตัวผ่าน NVLink ที่ 3.6 TB/s ผู้ใช้เปิดใช้งานได้โดยตั้งค่า "H100" เป็นประเภท GPU ใน Modal decorator