Mastra adds private model gateways for self-hosted models
เนื้อหานี้ยังไม่มีในภาษาของคุณ จึงแสดงเป็นEnglish
เริ่มตรงนี้
Mastra introduced private model gateways that let agents route requests to self-hosted open-weight models, addressed by a prefix such as private/ollama/gpt-oss:20b. According to Mastra, self-hosting keeps sensitive data inside the network and replaces per-token costs with infrastructure costs. The feature requires @mastra/core@1.82.0 or later and was added in PR #18153. Setting AUTO_BLOCK_EXTERNAL_PROVIDERS=true in the .env file hides external providers in Studio's model picker, so users can only select models from the operator's own gateways.
สร้างจากรายงาน · อัปเดต 12 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Mastra BlogMastra Agents สร้าง Private Model Gateway สำหรับโมเดลที่โฮสต์เอง
Mastra เพิ่ม private model gateway ที่ให้เอเจนต์ส่งคำขอไปยังโมเดล open-weight ที่โฮสต์เอง โดยอ้างอิงผ่านคำนำหน้าเช่น private/ollama/gpt-oss:20b การโฮสต์เองช่วยเก็บข้อมูลอ่อนไหวไว้ในเครือข่ายและแทนที่ค่าใช้จ่ายต่อโทเคนด้วยค่าใช้จ่ายโครงสร้างพื้นฐาน และการตั้งค่า AUTO_BLOCK_EXTERNAL_PROVIDERS=true จะซ่อนผู้ให้บริการภายนอกใน Studio ฟีเจอร์นี้ต้องใช้ @mastra/core@1.82.0 หรือใหม่กว่า
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม