TypeSafe AI mở rộng quy mô Jev lên hàng nghìn tỷ token trong ba ngày trên Modal

TypeSafe AI đã sử dụng nền tảng serverless của Modal để huấn luyện và triển khai Jev, System One Model đầu tiên của mình, và phục vụ hơn một nghìn tỷ token trong vòng ba ngày kể từ khi ra mắt. Jev không phải là một LLM tự hồi quy: nó nhận trạng thái và câu hỏi làm đầu vào và xuất ra các giá trị có kiểu, có cấu trúc kèm xác suất song song, hướng tới các khối lượng công việc có độ trễ thấp. Một tuần sau khi ra mắt, nó đứng đầu bảng xếp hạng của OpenRouter cho ngữ cảnh 1K-10K token, xử lý 15,1% số yêu cầu.