跳到正文
AWS Machine Learning Blog· Alan Yao·· 22 小时前AI 评分34

Airbnb 如何用每任务成本在 Amazon Bedrock 上运行编码智能体

How Airbnb uses cost per task to operate coding agents on Amazon Bedrock

AI 导读

Airbnb 通过 Amazon Bedrock 上的 LLM 网关运行其内部编码智能体工具 AirChat,并用每任务成本——即智能体完成一个任务所消耗全部 token 的标价成本——来选择默认模型和努力上限。在大约五周内上线八款新模型后,到 10 月中旬,工程师编码智能体请求中约三分之二流向了这些新模型。Airbnb 将上线前评估与 CloudWatch 上关于延迟、限流和 token 支出的运行时信号结合起来,以重新审视这些选择。

来源:AWS Machine Learning Blog · aws.amazon.com