ข้ามไปที่เนื้อหา
Google Developers Blog·· 1 วันที่แล้วคะแนน AI38

Google: กำหนดขนาด GKE Node Pool สำหรับเซสชัน AI Agent ไม่ใช่สำหรับ Request

Agents are sessions, not requests: size GKE node pools for AI agent sessions

สรุปโดย AI

Google ให้เหตุผลว่าเซสชัน AI agent ควรกำหนดขนาดแตกต่างจาก web request บน GKE เนื่องจากการศึกษาร่องรอย GitHub Copilot พบว่า agent รอผู้ใช้ประมาณ 80% ของเวลา โดย Agent Substrate 1.0 ซึ่งพร้อมใช้งานทั่วไปบน GKE แล้ว จะระงับ actor ที่ไม่ได้ใช้งานไปยัง object storage และคืน worker ทำให้ agent จำนวนมากกว่าใช้ compute ร่วมกันได้

แหล่งข่าว:Google Developers Blog · developers.googleblog.com