ข้ามไปที่เนื้อหา
Databricks Blog·· 2 วันที่แล้วคัดสรรคะแนน AI60

Databricks เปิดตัว Unity Gateway Insights เพื่อวิเคราะห์ agent traces และลดต้นทุนโทเค็น AI

Introducing Unity Gateway Insights

สรุปโดย AI

Databricks เปิดตัว Unity Gateway Insights ซึ่งใช้ Genie วิเคราะห์ agent traces หลายล้านรายการพร้อมกับข้อมูลทางธุรกิจ และชี้ให้เห็นจุดที่โทเค็นถูกใช้ไปอย่างสูญเปล่า บริษัทระบุว่าการวิเคราะห์ traces ของตนเองไม่พบประสิทธิภาพที่เพิ่มขึ้นจากการอัปเกรด Opus 4.8 เป็น Opus 5 และการแก้บั๊กเล็กๆ 7 จุดใน MCP server ช่วยประหยัดได้ประมาณ 1.2 ล้านดอลลาร์ต่อปี รวมถึงโทเค็นที่สูญเปล่า 499,000 ดอลลาร์ และชั่วโมงทำงานของวิศวกร 12,000 ชั่วโมง Insights จัดอันดับความสูญเปล่าตามต้นทุนโทเค็น เชื่อมโยงผลการวิเคราะห์กับเซสชันตัวอย่าง และเขียนพรอมป์ที่คัดลอกได้สำหรับเปลี่ยนเวิร์กโฟลว์ที่ทำซ้ำให้เป็นทักษะที่แชร์ร่วมกัน

ทำไมเรื่องนี้สำคัญ

Databricks แสดงให้เห็นว่าการวิเคราะห์ traces ของเซสชันเอเจนต์สามารถระบุตำแหน่งโทเค็นที่สูญเปล่าและคำนวณปริมาณการประหยัดได้อย่างไร มอบวิธีการควบคุมต้นทุนที่เป็นรูปธรรมสำหรับทีมที่ใช้งานเอเจนต์เขียนโค้ดในวงกว้าง

แหล่งข่าว:Databricks Blog · databricks.com