AWS Machine Learning Blog· Evandro Franco·· 16 小时前AI 评分40
Amazon Bedrock AgentCore 运行时快速会话启动的架构模式
Architecture patterns for fast session startup on Amazon Bedrock AgentCore runtime
AI 导读
Amazon Bedrock AgentCore 运行时的 platformVersion "V2" 会先准备一次容器,对 microVM 进行快照,并在每个新会话中恢复该快照,从而使会话启动更快、更一致。V2 还会回收未使用的会话内存,使计费与实际使用量保持一致,并且 AgentCore 运行时现在支持构建钩子。本文介绍了 V2 如何启动会话、如何测量会话启动时间,以及四种将工作移出首个请求的模式。
来源:AWS Machine Learning Blog · aws.amazon.com