跳到正文
热点事件持续更新

Airbnb 用每任务成本在 Bedrock 上管理编码智能体

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

Airbnb 详细介绍了它如何通过 Amazon Bedrock 上的 LLM 网关运行其内部编码智能体工具 AirChat,并用“每任务成本”——即智能体完成一个任务所消耗全部 token 的标价成本——来设定模型默认值和投入上限。Airbnb 表示,在大约五周内上线八款新模型后,到 10 月中旬,工程师编码智能体请求中约三分之二流向了这些新模型。 Airbnb 将上线前评估与 CloudWatch 上关于延迟、限流和 token 开销的运行时信号结合,用来重新审视这些选择。该方法依赖模型调用日志,而该日志默认关闭,必须在每个被调用的 AWS Region 中开启;开启后不会回溯此前的成本。由于日志可能包含完整提示词、响应和调用方身份,Airbnb 建议限制访问权限并设置保留期限。它还指出,缓存读取从不计入配额,因此一个请求在配额上可能很便宜,但在账单上可能很贵。

AI 根据报道生成 · 21 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AWS Machine Learning Blog
    Airbnb 如何用每任务成本在 Amazon Bedrock 上运行编码智能体

    Airbnb 通过 Amazon Bedrock 上的 LLM 网关运行其内部编码智能体工具 AirChat,并用每任务成本——即智能体完成一个任务所消耗全部 token 的标价成本——来选择默认模型和努力上限。在大约五周内上线八款新模型后,到 10 月中旬,工程师编码智能体请求中约三分之二流向了这些新模型。Airbnb 将上线前评估与 CloudWatch 上关于延迟、限流和 token 支出的运行时信号结合起来,以重新审视这些选择。

本事件热度走势

可比范围当前
5
可比范围峰值
1011月19日 07:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。