Mastra Blog·· 2 天前AI 評分40
Mastra Agents 私有模型閘道,支援自架模型
Introducing Private Model Gateways for Mastra Agents
AI 導讀
Mastra 新增私有模型閘道,讓 agent 能將請求路由到自架的開放權重模型,並以 private/ollama/gpt-oss:20b 這類前綴來引用。自架可讓敏感資料留在網路內部,並以基礎設施成本取代按 token 計費的成本;設定 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隱藏外部供應商。此功能需要 @mastra/core@1.82.0 或更新版本。
來源:Mastra Blog · mastra.ai