ข้ามไปที่เนื้อหา
Hacker News · AI·· 37 นาทีที่แล้วคัดสรรคะแนน AI78

Prime Intellect เปิดตัว Model Factory แพลตฟอร์มแบบครบวงจรสำหรับการฝึก ปรับใช้ และพัฒนาโมเดล

Introducing Model Factory

สรุปโดย AI

Prime Intellect เปิดตัว Model Factory ซึ่งเป็นศูนย์ควบคุมเดียวที่รวม reinforcement learning, supervised fine-tuning, pre-training และ inference เข้าด้วยกัน เพื่อให้บริษัทต่างๆ สามารถฝึก ปรับใช้ และพัฒนาโมเดลอย่างต่อเนื่องบนงานและข้อมูลของตนเองได้ โดยมีบริการฝึกแบบโฮสต์ตามต้องการที่คิดค่าบริการต่อ GPU-hour และการปรับใช้แบบเฉพาะพร้อมความจุที่จองไว้ รวมถึงการเข้าถึง Slurm และ Kubernetes โดยตรง และเชื่อมโยงการฝึกเข้ากับ inference endpoint แบบคลิกเดียว, แซนด์บ็อกซ์ microVM, สภาพแวดล้อม และ Prime Traces สำหรับเปลี่ยน production trace ให้เป็นการฝึกครั้งถัดไป บริษัทกล่าวว่า Model Factory กำลังถูกนำไปใช้แล้วสำหรับระบบอัตโนมัติทางการเงิน, computer use, การค้นพบทางวิทยาศาสตร์ และการออกแบบชิป และรายงานว่า Prime Mega MoE มีอัตราการใช้ประโยชน์ FLOPs ของโมเดลอยู่ที่ 48% บน H200s โดยใช้สถาปัตยกรรม MoE ขนาด 235B ของ Qwen

ทำไมเรื่องนี้สำคัญ

Model Factory ของ Prime Intellect รวม RL, SFT, pre-training และ inference ไว้ในศูนย์ควบคุมเดียว ลดอุปสรรคด้านโครงสร้างพื้นฐานสำหรับทีมที่ต้องการเป็นเจ้าของวงจรโมเดลของตนเอง

แหล่งข่าว:Hacker News · AI · primeintellect.ai