Prime Intellect ra mắt Model Factory, một nền tảng thống nhất để huấn luyện, triển khai và cải thiện mô hình
Introducing Model Factory
Prime Intellect giới thiệu Model Factory, một mặt phẳng điều khiển duy nhất kết hợp học tăng cường, tinh chỉnh có giám sát, tiền huấn luyện và suy luận để các công ty có thể huấn luyện, triển khai và liên tục cải thiện mô hình trên tác vụ và dữ liệu của riêng họ. Nó cung cấp huấn luyện được lưu trữ theo yêu cầu tính phí theo GPU-giờ và triển khai chuyên dụng với dung lượng dự trữ cùng quyền truy cập trực tiếp Slurm và Kubernetes, đồng thời kết nối huấn luyện với các điểm cuối suy luận một cú nhấp, hộp cát microVM, môi trường và Prime Traces để biến dấu vết sản xuất thành lần huấn luyện tiếp theo. Công ty cho biết Model Factory đã được triển khai cho tự động hóa tài chính, sử dụng máy tính, khám phá khoa học và thiết kế chip, và báo cáo rằng Prime Mega MoE đạt 48% mức sử dụng FLOPs mô hình trên H200s sử dụng kiến trúc MoE 235B của Qwen.
Model Factory của Prime Intellect gói gọn RL, SFT, tiền huấn luyện và suy luận vào một mặt phẳng điều khiển, hạ thấp rào cản hạ tầng cho các nhóm muốn sở hữu vòng lặp mô hình của riêng họ.
Nguồn:Hacker News · AI · primeintellect.ai