跳至正文
AWS Machine Learning Blog· Evandro Franco·· 17 小時前AI 評分40

在 Amazon Bedrock AgentCore 執行環境上快速啟動工作階段的架構模式

Architecture patterns for fast session startup on Amazon Bedrock AgentCore runtime

AI 導讀

Amazon Bedrock AgentCore 執行環境的 platformVersion「V2」會先準備一次容器、對 microVM 建立快照,並在每個新工作階段還原該快照,讓工作階段啟動更快且更一致。V2 也會回收未使用的工作階段記憶體,使計費反映實際用量,而 AgentCore 執行環境現在支援建置掛鉤。本文說明 V2 如何啟動工作階段、如何量測工作階段啟動時間,以及四種把工作移出第一個請求的模式。

來源:AWS Machine Learning Blog · aws.amazon.com