TypeSafe AI 在 Modal 上三天内将 Jev 扩展至万亿级 token

TypeSafe AI 使用 Modal 的无服务器平台训练和部署了其首个 System One Model——Jev，并在上线三天内处理了超过一万亿个 token。Jev 不是自回归 LLM：它以状态和问题为输入，并行输出带概率的类型化结构化值，面向低延迟工作负载。上线一周后，它登顶 OpenRouter 1K-10K token 上下文排行榜，处理了 15.1% 的请求。