AWS Machine Learning Blog· Evandro Franco·· 8 天前AI 评分35
Amazon Bedrock AgentCore runtime 快速会话启动的架构模式
Architecture patterns for fast session startup on Amazon Bedrock AgentCore runtime
AI 导读
Amazon Bedrock AgentCore runtime 的 V2 版本通过预先构建环境快照并按会话恢复,使会话启动更快更稳定。每个会话在独立隔离的 microVM 中运行,平台空闲时缩容至零,V2 还会回收会话未使用的内存以降低成本。文章给出四种加速启动的架构模式,包括用新增的 build hooks 预加载大文件,以及在用户发起请求前预热会话。
来源:AWS Machine Learning Blog · aws.amazon.com