跳至正文
熱點事件持續更新

Airbnb 以每項任務成本在 Bedrock 上管理編碼代理

1 篇報導1 個報導來源21 小時前更新

先了解這件事

AI 綜述

Airbnb 詳細說明它如何透過 Amazon Bedrock 上的 LLM 閘道運作其內部編碼代理工具 AirChat,並以「每項任務成本」——代理完成一項任務所花費所有 token 的定價成本——來設定模型預設值與工作量上限。Airbnb 表示,在大約五週內推出八個新模型後,截至十月中旬,約三分之二的工程師編碼代理請求都流向這些新模型。 Airbnb 將上線前評估與 CloudWatch 的延遲、限流與 token 花費執行期訊號搭配使用,以重新檢視這些選擇。此方法依賴模型呼叫日誌,該日誌預設關閉,且必須在每個被呼叫的 AWS Region 中開啟;啟用後不會回填先前的成本。由於日誌可能包含完整提示、回應與呼叫者身分,Airbnb 建議限制存取權限並設定保留期限。它還指出,快取讀取永遠不計入配額,因此一項請求在配額上可能很便宜,但在帳單上卻很昂貴。

AI 依報導生成 · 21 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月19日
  1. AWS Machine Learning Blog
    Airbnb 如何用每項任務成本在 Amazon Bedrock 上運行編碼代理

    Airbnb 透過 Amazon Bedrock 上的 LLM 閘道運行其內部編碼代理工具 AirChat,並以每項任務成本——即代理完成一項任務所花費全部 token 的定價成本——來選擇預設模型與投入上限。在大約五週內推出八個新模型後,到十月中旬,約三分之二的工程師編碼代理請求都流向了這些新模型。Airbnb 將上線前的評估與 CloudWatch 上關於延遲、限流和 token 花費的運行時信號結合起來,以重新審視這些選擇。

本事件熱度走勢

可比範圍當前
5
可比範圍峰值
1011月19日 07:00
近 24 小時變化
–

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。