Airbnb 用每任务成本在 Bedrock 上管理编码智能体
热点事件持续更新
Airbnb 用每任务成本在 Bedrock 上管理编码智能体
1 篇报道1 个报道来源21 小时前更新
先了解这件事
AI 综述
Airbnb 详细介绍了它如何通过 Amazon Bedrock 上的 LLM 网关运行其内部编码智能体工具 AirChat,并用“每任务成本”——即智能体完成一个任务所消耗全部 token 的标价成本——来设定模型默认值和投入上限。Airbnb 表示,在大约五周内上线八款新模型后,到 10 月中旬,工程师编码智能体请求中约三分之二流向了这些新模型。 Airbnb 将上线前评估与 CloudWatch 上关于延迟、限流和 token 开销的运行时信号结合,用来重新审视这些选择。该方法依赖模型调用日志,而该日志默认关闭,必须在每个被调用的 AWS Region 中开启;开启后不会回溯此前的成本。由于日志可能包含完整提示词、响应和调用方身份,Airbnb 建议限制访问权限并设置保留期限。它还指出,缓存读取从不计入配额,因此一个请求在配额上可能很便宜,但在账单上可能很贵。
AI 根据报道生成 · 21 小时前更新
最新进展11月19日 05:48
Airbnb 如何用每任务成本在 Amazon Bedrock 上运行编码智能体报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AWS Machine Learning BlogAirbnb 如何用每任务成本在 Amazon Bedrock 上运行编码智能体
Airbnb 通过 Amazon Bedrock 上的 LLM 网关运行其内部编码智能体工具 AirChat,并用每任务成本——即智能体完成一个任务所消耗全部 token 的标价成本——来选择默认模型和努力上限。在大约五周内上线八款新模型后,到 10 月中旬,工程师编码智能体请求中约三分之二流向了这些新模型。Airbnb 将上线前评估与 CloudWatch 上关于延迟、限流和 token 支出的运行时信号结合起来,以重新审视这些选择。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 1011月19日 07:00
- 近 24 小时变化
- –
02.557.510
191920
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。