Prime Intellect เปิดตัวแพลตฟอร์มฝึกโมเดล Model Factory
เริ่มตรงนี้
Prime Intellect เปิดตัว Model Factory ซึ่งเป็นศูนย์ควบคุมเดียวที่รวม reinforcement learning, supervised fine-tuning, pre-training และ inference เข้าด้วยกัน เพื่อให้บริษัทต่างๆ สามารถฝึก ปรับใช้ และพัฒนาโมเดลของตนบนงานและข้อมูลของตัวเองได้อย่างต่อเนื่อง การฝึกเชื่อมต่อกับ inference endpoint แบบคลิกเดียว, microVM sandbox, environment และ Prime Traces ซึ่งเปลี่ยน trace จากระบบจริงให้เป็นการฝึกในรอบถัดไป แพลตฟอร์มนี้มีสองรูปแบบ คือ การฝึกแบบโฮสต์ตามต้องการบน GPU ที่มีการจัดการ คิดค่าบริการตามชั่วโมง GPU และการปรับใช้แบบเฉพาะด้วยความจุที่จองไว้ การฝึกและการทำ inference ที่มีการจัดการ และการเข้าถึง Slurm และ Kubernetes โดยตรง Prime Intellect กล่าวว่า Model Factory ถูกนำไปใช้แล้วในด้านระบบอัตโนมัติทางการเงิน การใช้คอมพิวเตอร์ การค้นพบทางวิทยาศาสตร์ และการออกแบบชิป และรายงานว่า Prime Mega MoE ทำได้ถึง 48% ของ model FLOPs utilization บน H200 โดยใช้สถาปัตยกรรม 235B MoE ของ Qwen
สร้างจากรายงาน · อัปเดต 18 นาทีที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIคัดสรรPrime Intellect เปิดตัว Model Factory แพลตฟอร์มแบบครบวงจรสำหรับการฝึก ปรับใช้ และพัฒนาโมเดล
Prime Intellect เปิดตัว Model Factory ซึ่งเป็นศูนย์ควบคุมเดียวที่รวม reinforcement learning, supervised fine-tuning, pre-training และ inference เข้าด้วยกัน เพื่อให้บริษัทต่างๆ สามารถฝึก ปรับใช้ และพัฒนาโมเดลอย่างต่อเนื่องบนงานและข้อมูลของตนเองได้ โดยมีบริการฝึกแบบโฮสต์ตามต้องการที่คิดค่าบริการต่อ GPU-hour และการปรับใช้แบบเฉพาะพร้อมความจุที่จองไว้ รวมถึงการเข้าถึง Slurm และ Kubernetes โดยตรง และเชื่อมโยงการฝึกเข้ากับ inference endpoint แบบคลิกเดียว, แซนด์บ็อกซ์ microVM, สภาพแวดล้อม และ Prime Traces สำหรับเปลี่ยน production trace ให้เป็นการฝึกครั้งถัดไป บริษัทกล่าวว่า Model Factory กำลังถูกนำไปใช้แล้วสำหรับระบบอัตโนมัติทางการเงิน, computer use, การค้นพบทางวิทยาศาสตร์ และการออกแบบชิป และรายงานว่า Prime Mega MoE มีอัตราการใช้ประโยชน์ FLOPs ของโมเดลอยู่ที่ 48% บน H200s โดยใช้สถาปัตยกรรม MoE ขนาด 235B ของ Qwen
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม