Sarvam ra mắt nền tảng suy luận Token Factory tại Ấn Độ
Bắt đầu từ đây
Sarvam đã ra mắt Sarvam Token Factory, một nền tảng suy luận được lưu trữ tại Ấn Độ, cung cấp tám mô hình thông qua một API tương thích OpenAI duy nhất, bao gồm Sarvam 105B của chính hãng và các mô hình trọng số mở như GLM 5.3, DeepSeek V4.1 Flash, Kimi K3.1 Pro và Gemma 4 31B, chạy trên các cụm NVIDIA B200 tại Ấn Độ. Ngăn xếp được xây dựng trên vLLM, SGLang, Dynamo và Mooncake; Sarvam cho biết bộ nhớ đệm phục vụ 95,7% token gợi ý trên DeepSeek V4.1 Flash, mà họ nói xử lý hơn 450B token mỗi ngày. Các mô hình trả tiền theo mức sử dụng chạy trên các điểm cuối dùng chung, trong khi DeepSeek V4 Pro, Kimi K3.1 Pro, Qwen 3.8 27B, Clef và EmbeddingGemma 2 yêu cầu bật Provisioned Throughput cho từng tổ chức; triển khai tại chỗ được cung cấp cho doanh nghiệp. Giá giới thiệu cho Sarvam 105B bắt đầu từ ₹10 mỗi 1M token đầu vào và ₹25 mỗi 1M token đầu ra đến hết năm 2026. Các số liệu đánh giá chuẩn của Sarvam là tự báo cáo, và Together AI vẫn nhanh hơn trên DeepSeek V4.1 Flash streaming.
Tạo từ các bài viết · cập nhật 14 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- MarkTechPostSarvam ra mắt Token Factory, nền tảng suy luận đặt tại Ấn Độ phục vụ 8 mô hình mở
Sarvam ra mắt Sarvam Token Factory, một nền tảng suy luận phục vụ mô hình Sarvam 105B của chính hãng và các mô hình trọng số mở như GLM 5.3, DeepSeek V4.1 Flash 1017, Kimi K3.1 Pro và Gemma 4 31B từ các cụm NVIDIA B200 tại Ấn Độ thông qua một API tương thích OpenAI. Ngăn xếp công nghệ dựa trên vLLM, SGLang, Dynamo và Mooncake, và Sarvam báo cáo rằng bộ nhớ đệm phục vụ 95,7% token gợi ý trên DeepSeek V4.1 Flash, mô hình xử lý hơn 450B token mỗi ngày. Giá giới thiệu khởi điểm từ ₹10 cho đầu vào và ₹25 cho đầu ra trên 1M token đối với Sarvam 105B đến hết năm 2026, và mọi con số benchmark đều do hãng tự báo cáo, với Together AI vẫn nhanh hơn trên tính năng streaming của DeepSeek V4.1 Flash.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 7
- Đỉnh, trong khoảng so sánh được
- 1017 tháng 11 18:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.