跳到正文
热点事件观察中

Google:按 AI 智能体会话而非请求来规划 GKE 节点池规模

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Google 发布了一份技术指南,主张在 Google Kubernetes Engine(GKE)上,AI 智能体会话的规模规划方式应与 Web 请求不同,因为智能体大部分时间都在等待,而不是在计算。Google 引用了一项 GitHub Copilot 的追踪研究,发现智能体约有 80% 的时间在等待用户。 该指南以 Agent Substrate 1.0 为核心,Google 称其现已在 GKE 上正式可用。它会把空闲的 actor 挂起到对象存储并释放其 worker,让更多智能体共享同一份算力。据 Google 称,Agent Substrate 不会自行挂起空闲 actor:智能体 harness,或位于其前面的服务,必须在空闲超时后调用挂起 API。根据 Agent Substrate 文档,如果空闲 actor 占用了所有 worker,对另一个 actor 的请求默认最多等待 5 秒,随后以 HTTP 503 失败。 Google 还介绍了 AX,称这是一个配套组件,目前仍在积极开发中,尚未发布首个稳定版本,并邀请大家在 GitHub 上提供反馈和提交 issue。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. Google Developers Blog
    Google:GKE 节点池应按 AI 智能体会话而非请求来规划规模

    Google 认为,在 GKE 上,AI 智能体会话的规模规划方式应与 Web 请求不同,因为一项 GitHub Copilot 追踪研究发现,智能体约有 80% 的时间在等待用户。Agent Substrate 1.0 现已在 GKE 上正式可用,它会把空闲的 actor 挂起到对象存储并释放其 worker,让更多智能体共享同一份计算资源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。