Databricks Blog·· 2 天前精選AI 評分60
Databricks 推出 Unity Gateway Insights,分析代理追蹤並降低 AI token 成本
Introducing Unity Gateway Insights
AI 導讀
Databricks 推出 Unity Gateway Insights,運用 Genie 分析數百萬筆代理追蹤與業務資料,找出 token 浪費之處。該公司表示,自家的追蹤分析發現,從 Opus 4.8 升級到 Opus 5 並未帶來效能提升,而修復七個小型 MCP 伺服器錯誤後,估計每年可省下 120 萬美元,其中包括 49.9 萬美元的浪費 token 與 12,000 小時的工程師工時。Insights 依 token 成本排序浪費情況,將發現連結到範例工作階段,並寫出可複製的提示詞,把重複的工作流程轉為共享技能。
推薦理由
Databricks 展示如何透過代理工作階段的追蹤分析找出浪費的 token 並量化節省金額,為大規模執行編碼代理的團隊提供具體的成本控制方法。
來源:Databricks Blog · databricks.com