跳到正文
Google Developers Blog·· 1 天前AI 评分38

Google:GKE 节点池应按 AI 智能体会话而非请求来规划规模

Agents are sessions, not requests: size GKE node pools for AI agent sessions

AI 导读

Google 认为,在 GKE 上,AI 智能体会话的规模规划方式应与 Web 请求不同,因为一项 GitHub Copilot 追踪研究发现,智能体约有 80% 的时间在等待用户。Agent Substrate 1.0 现已在 GKE 上正式可用,它会把空闲的 actor 挂起到对象存储并释放其 worker,让更多智能体共享同一份计算资源。

来源:Google Developers Blog · developers.googleblog.com