跳到正文
热点事件观察中

Mastra 为自托管模型新增私有模型网关

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Mastra 推出了私有模型网关,让智能体可以将请求路由到自托管的开放权重模型,并通过 private/ollama/gpt-oss:20b 这样的前缀来寻址。据 Mastra 称,自托管可将敏感数据保留在网络内部,并以基础设施成本替代按 token 计费的成本。 该功能需要 @mastra/core@1.82.0 或更高版本,并在 PR #18153 中添加。在 .env 文件中设置 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 会隐藏 Studio 模型选择器中的外部提供商,因此用户只能从运营方自己的网关中选择模型。

AI 根据报道生成 · 14 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月12日
  1. Mastra Blog
    Mastra Agents 面向自托管模型的私有模型网关

    Mastra 新增了私有模型网关,让 agent 可以将请求路由到自托管的开放权重模型,并通过类似 private/ollama/gpt-oss:20b 的前缀引用。自托管可将敏感数据保留在网络内部,并以基础设施成本替代按 token 计费的成本;设置 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隐藏外部提供商。该功能需要 @mastra/core@1.82.0 或更高版本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。