Mastra 为自托管模型新增私有模型网关
热点事件观察中
Mastra 为自托管模型新增私有模型网关
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Mastra 推出了私有模型网关,让智能体可以将请求路由到自托管的开放权重模型,并通过 private/ollama/gpt-oss:20b 这样的前缀来寻址。据 Mastra 称,自托管可将敏感数据保留在网络内部,并以基础设施成本替代按 token 计费的成本。 该功能需要 @mastra/core@1.82.0 或更高版本,并在 PR #18153 中添加。在 .env 文件中设置 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 会隐藏 Studio 模型选择器中的外部提供商,因此用户只能从运营方自己的网关中选择模型。
AI 根据报道生成 · 14 小时前更新
最新进展11月12日 00:00
Mastra Agents 面向自托管模型的私有模型网关报道时间线
沿着报道,了解事件的不同侧面。
11月12日
- Mastra BlogMastra Agents 面向自托管模型的私有模型网关
Mastra 新增了私有模型网关,让 agent 可以将请求路由到自托管的开放权重模型,并通过类似 private/ollama/gpt-oss:20b 的前缀引用。自托管可将敏感数据保留在网络内部,并以基础设施成本替代按 token 计费的成本;设置 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隐藏外部提供商。该功能需要 @mastra/core@1.82.0 或更高版本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。