跳至正文
Google Developers Blog·· 1 天前AI 評分38

Google:GKE 節點集區應依 AI 代理工作階段規劃規模,而非依請求數

Agents are sessions, not requests: size GKE node pools for AI agent sessions

AI 導讀

Google 主張,在 GKE 上,AI 代理工作階段的規模規劃方式應與網頁請求不同,因為一項 GitHub Copilot 追蹤研究發現,代理約有 80% 的時間都在等待使用者。Agent Substrate 1.0 現已在 GKE 上正式推出,可將閒置的 actor 暫停並存放到物件儲存,同時釋出其 worker,讓更多代理共用相同的運算資源。

來源:Google Developers Blog · developers.googleblog.com