Sarvam 在印度推出 Token Factory 推理平台
先了解这件事
Sarvam 推出了 Sarvam Token Factory,这是一个托管在印度的推理平台,通过一个兼容 OpenAI 的 API 提供八个模型,包括其自有的 Sarvam 105B 以及 GLM 5.3、DeepSeek V4.1 Flash、Kimi K3.1 Pro 和 Gemma 4 31B 等开放权重模型,运行在印度的 NVIDIA B200 集群上。该技术栈基于 vLLM、SGLang、Dynamo 和 Mooncake 构建;Sarvam 表示,缓存可为 DeepSeek V4.1 Flash 上 95.7% 的提示 token 提供服务,并称该模型每天处理超过 450B token。 按量付费模型运行在共享端点上,而 DeepSeek V4 Pro、Kimi K3.1 Pro、Qwen 3.8 27B、Clef 和 EmbeddingGemma 2 需要按组织启用 Provisioned Throughput;企业客户可选择本地部署。Sarvam 105B 的 introductory 定价为每 1M 输入 token 10 卢比起、每 1M 输出 token 25 卢比起,有效期至 2026 年底。Sarvam 的基准数据为自报数据,在 DeepSeek V4.1 Flash 流式传输方面,Together AI 仍然更快。
AI 根据报道生成 · 14 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- MarkTechPostSarvam 推出 Token Factory,一个托管在印度、服务 8 个开放模型的推理平台
Sarvam 推出了 Sarvam Token Factory,这是一个推理平台,通过一个兼容 OpenAI 的 API,从印度的 NVIDIA B200 集群提供其自有的 Sarvam 105B 以及 GLM 5.3、DeepSeek V4.1 Flash 1017、Kimi K3.1 Pro 和 Gemma 4 31B 等开放权重模型。该技术栈基于 vLLM、SGLang、Dynamo 和 Mooncake 构建,Sarvam 报告称,在每天处理 450B+ token 的 DeepSeek V4.1 Flash 上,缓存覆盖了 95.7% 的提示 token。Sarvam 105B 的入门定价为每 1M token 输入 ₹10、输出 ₹25,有效期至 2026 年底;所有基准数字均为自报,在 DeepSeek V4.1 Flash 流式传输上 Together AI 仍然更快。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月17日 18:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。