跳至正文
熱點事件持續更新

Sarvam 在印度推出 Token Factory 推理平台

1 篇報導1 個報導來源14 小時前更新

先了解這件事

AI 綜述

Sarvam 推出了 Sarvam Token Factory,这是一个托管于印度的推理平台,通过单一 OpenAI 兼容 API 提供八款模型,包括自家的 Sarvam 105B 以及 GLM 5.3、DeepSeek V4.1 Flash、Kimi K3.1 Pro 和 Gemma 4 31B 等开放权重模型,运行在印度的 NVIDIA B200 集群上。该技术栈基于 vLLM、SGLang、Dynamo 和 Mooncake 构建;Sarvam 表示,缓存可为 DeepSeek V4.1 Flash 上 95.7% 的提示词 token 提供服务,并称该模型每天处理超过 450B token。 按量付费模型运行在共享端点上,而 DeepSeek V4 Pro、Kimi K3.1 Pro、Qwen 3.8 27B、Clef 和 EmbeddingGemma 2 需要按组织启用 Provisioned Throughput;企业客户可选择本地部署。Sarvam 105B 的 introductory 价格截至 2026 年底为每 100 万输入 token ₹10、每 100 万输出 token ₹25。Sarvam 的基准数据为自行报告,而在 DeepSeek V4.1 Flash 流式传输方面,Together AI 仍然更快。

AI 依報導生成 · 14 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月17日
  1. MarkTechPost
    Sarvam 推出 Token Factory,一個印度託管的推論平台,提供 8 個開放模型

    Sarvam 推出 Sarvam Token Factory,這是一個推論平台,透過單一 OpenAI 相容 API,從印度的 NVIDIA B200 叢集提供自家 Sarvam 105B 以及 GLM 5.3、DeepSeek V4.1 Flash 1017、Kimi K3.1 Pro 和 Gemma 4 31B 等開放權重模型。此技術堆疊建構於 vLLM、SGLang、Dynamo 和 Mooncake 之上,Sarvam 表示快取在 DeepSeek V4.1 Flash 上處理了 95.7% 的提示詞 token,而該模型每天處理超過 450B 個 token。Sarvam 105B 的入門價格為每 1M token 輸入 ₹10、輸出 ₹25,優惠持續至 2026 年底;所有基準測試數字均為自行報告,而在 DeepSeek V4.1 Flash 串流方面,Together AI 仍然更快。

本事件熱度走勢

可比範圍當前
7
可比範圍峰值
1011月17日 18:00
近 24 小時變化
–

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。