Mastra Blog·· 2 天前AI 评分40
Mastra Agents 面向自托管模型的私有模型网关
Introducing Private Model Gateways for Mastra Agents
AI 导读
Mastra 新增了私有模型网关,让 agent 可以将请求路由到自托管的开放权重模型,并通过类似 private/ollama/gpt-oss:20b 的前缀引用。自托管可将敏感数据保留在网络内部,并以基础设施成本替代按 token 计费的成本;设置 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隐藏外部提供商。该功能需要 @mastra/core@1.82.0 或更高版本。
来源:Mastra Blog · mastra.ai