跳至正文
熱點事件觀察中

Mastra 為自架模型新增私有模型閘道

1 篇報導1 個報導來源2 天前更新

先了解這件事

AI 綜述

Mastra 推出了私有模型閘道,讓代理能將請求路由到自架的開放權重模型,並以 private/ollama/gpt-oss:20b 這類前綴來定址。根據 Mastra 的說法,自架能將敏感資料留在網路內部,並以基礎設施成本取代按 token 計費的成本。 此功能需要 @mastra/core@1.82.0 或更新版本,並在 PR #18153 中加入。在 .env 檔案中設定 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 會隱藏 Studio 模型選擇器中的外部供應商,因此使用者只能從營運者自己的閘道中選擇模型。

AI 依報導生成 · 14 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月12日
  1. Mastra Blog
    Mastra Agents 私有模型閘道,支援自架模型

    Mastra 新增私有模型閘道,讓 agent 能將請求路由到自架的開放權重模型,並以 private/ollama/gpt-oss:20b 這類前綴來引用。自架可讓敏感資料留在網路內部,並以基礎設施成本取代按 token 計費的成本;設定 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隱藏外部供應商。此功能需要 @mastra/core@1.82.0 或更新版本。

本事件熱度走勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。