Google Developers Blog·· 1 วันที่แล้วคะแนน AI38
Google: กำหนดขนาด GKE Node Pool สำหรับเซสชัน AI Agent ไม่ใช่สำหรับ Request
Agents are sessions, not requests: size GKE node pools for AI agent sessions
สรุปโดย AI
Google ให้เหตุผลว่าเซสชัน AI agent ควรกำหนดขนาดแตกต่างจาก web request บน GKE เนื่องจากการศึกษาร่องรอย GitHub Copilot พบว่า agent รอผู้ใช้ประมาณ 80% ของเวลา โดย Agent Substrate 1.0 ซึ่งพร้อมใช้งานทั่วไปบน GKE แล้ว จะระงับ actor ที่ไม่ได้ใช้งานไปยัง object storage และคืน worker ทำให้ agent จำนวนมากกว่าใช้ compute ร่วมกันได้
แหล่งข่าว:Google Developers Blog · developers.googleblog.com