TypeSafe AI 在 Modal 上三天內將 Jev 擴展至數兆個 token

TypeSafe AI 使用 Modal 的無伺服器平台訓練並部署其首個 System One Model——Jev，並在上線三天內處理超過一兆個 token。Jev 並非自迴歸式 LLM：它以狀態與問題為輸入，並行輸出帶有機率的具型別結構化值，鎖定低延遲工作負載。上線一週後，它登上 OpenRouter 1K-10K token 上下文的排行榜首位，處理了 15.1% 的請求。