跳至正文
Hacker News · AI·· 37 分鐘前精選AI 評分78

Prime Intellect 推出 Model Factory,一個用於訓練、部署與改進模型的統一平台

Introducing Model Factory

AI 導讀

Prime Intellect 推出 Model Factory,這是一個單一控制平面,結合了強化學習、監督式微調、預訓練與推論,讓企業能夠針對自身任務與資料訓練、部署並持續改進模型。它提供按 GPU 小時計費的隨需託管訓練,以及具備保留容量的專屬部署,並可直接存取 Slurm 與 Kubernetes,還將訓練連接至一鍵推論端點、microVM 沙箱、環境與 Prime Traces,以便將生產環境的追蹤轉化為下一次訓練執行。該公司表示,Model Factory 已被部署用於金融自動化、電腦操作、科學發現與晶片設計,並報告指出 Prime Mega MoE 在使用 Qwen 的 235B MoE 架構時,於 H200 上達到 48% 的模型 FLOPs 利用率。

推薦理由

Prime Intellect 的 Model Factory 將 RL、SFT、預訓練與推論整合到單一控制平面,降低了想要擁有自身模型迴圈的團隊的基礎設施門檻。

來源:Hacker News · AI · primeintellect.ai