跳至正文
Mastra Blog·· 2 天前AI 評分40

Mastra Agents 私有模型閘道,支援自架模型

Introducing Private Model Gateways for Mastra Agents

AI 導讀

Mastra 新增私有模型閘道,讓 agent 能將請求路由到自架的開放權重模型,並以 private/ollama/gpt-oss:20b 這類前綴來引用。自架可讓敏感資料留在網路內部,並以基礎設施成本取代按 token 計費的成本;設定 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隱藏外部供應商。此功能需要 @mastra/core@1.82.0 或更新版本。

來源:Mastra Blog · mastra.ai