ข้ามไปที่เนื้อหา
MarkTechPost· Asif Razzaq·· 15 ชม. ที่แล้วคะแนน AI58

Sarvam เปิดตัว Token Factory แพลตฟอร์มอินเฟอเรนซ์โฮสต์ในอินเดียให้บริการโมเดลเปิด 8 ตัว

Sarvam Launches Sarvam Token Factory: Bringing India-Hosted Inference to 8 Open Models

สรุปโดย AI

Sarvam เปิดตัว Sarvam Token Factory แพลตฟอร์มอินเฟอเรนซ์ที่ให้บริการโมเดล Sarvam 105B ของตัวเองและโมเดลน้ำหนักเปิดอย่าง GLM 5.3, DeepSeek V4.1 Flash 1017, Kimi K3.1 Pro และ Gemma 4 31B จากคลัสเตอร์ NVIDIA B200 ในอินเดียผ่าน API เดียวที่เข้ากันได้กับ OpenAI สแต็กนี้สร้างบน vLLM, SGLang, Dynamo และ Mooncake และ Sarvam รายงานว่าแคชให้บริการ 95.7% ของโทเค็นพรอมป์บน DeepSeek V4.1 Flash ซึ่งประมวลผลมากกว่า 450B โทเค็นต่อวัน ราคาเปิดตัวเริ่มที่ ₹10 อินพุตและ ₹25 เอาต์พุตต่อ 1M โทเค็นสำหรับ Sarvam 105B ถึงสิ้นปี 2026 และตัวเลข benchmark ทั้งหมดเป็นข้อมูลที่รายงานเอง โดย Together AI ยังเร็วกว่าบน DeepSeek V4.1 Flash แบบสตรีมมิ่ง

แหล่งข่าว:MarkTechPost · marktechpost.com