跳到正文
Databricks Blog·· 2 天前精选AI 评分60

Databricks 推出 Unity Gateway Insights,用于分析智能体轨迹并降低 AI token 成本

Introducing Unity Gateway Insights

AI 导读

Databricks 推出 Unity Gateway Insights,该功能使用 Genie 结合业务数据分析数百万条智能体轨迹,并指出 token 被浪费的位置。该公司表示,其自身的轨迹分析发现,从 Opus 4.8 升级到 Opus 5 并未带来性能提升;修复七个小型 MCP 服务器 bug 后,估计每年可节省 120 万美元,其中包括 49.9 万美元的浪费 token 和 12,000 个工程师小时。Insights 按 token 成本对浪费进行排序,将发现结果关联到示例会话,并生成可复制的提示词,用于将重复工作流转化为共享技能。

推荐理由

Databricks 展示了如何通过对智能体会话进行轨迹分析来定位浪费的 token 并量化节省,为大规模运行编码智能体的团队提供了一种具体的成本控制方法。

来源:Databricks Blog · databricks.com