Databricks ra mắt Unity Gateway Insights để phân tích dấu vết agent và cắt giảm chi phí token AI
Introducing Unity Gateway Insights
Databricks giới thiệu Unity Gateway Insights, sử dụng Genie để phân tích hàng triệu dấu vết agent cùng với dữ liệu kinh doanh và chỉ ra nơi token bị lãng phí. Công ty cho biết phân tích dấu vết của chính họ không tìm thấy cải thiện hiệu suất nào khi nâng cấp từ Opus 4.8 lên Opus 5, và việc sửa bảy lỗi nhỏ của máy chủ MCP đã thu hồi ước tính 1,2 triệu USD mỗi năm, bao gồm 499 nghìn USD token bị lãng phí và 12.000 giờ kỹ sư. Insights xếp hạng lãng phí theo chi phí token, liên kết các phát hiện với phiên ví dụ và viết một prompt có thể sao chép để biến các quy trình lặp lại thành kỹ năng dùng chung.
Databricks cho thấy cách phân tích dấu vết của các phiên agent có thể xác định token bị lãng phí và định lượng khoản tiết kiệm, mang lại phương pháp kiểm soát chi phí cụ thể cho các nhóm vận hành agent lập trình ở quy mô lớn.
Nguồn:Databricks Blog · databricks.com