跳到正文
AWS Machine Learning Blog· Aswath Ram A Srinivasan·· 8 天前AI 评分56

用 NVIDIA NeMo Switchyard 在 Amazon Bedrock 上把编码智能体请求路由到合适的模型

Route coding agent requests to the right model on Amazon Bedrock with NVIDIA NeMo Switchyard

AI 导读

AWS 官方博客演示如何用 AWS CDK 将 LiteLLM 与 NVIDIA NeMo Switchyard 路由插件部署到自己的 AWS 账号,把编码智能体的请求在 Amazon Bedrock 上的 Claude Opus 5.5 与 NVIDIA Nemotron 3 Super 120B 之间路由。

来源:AWS Machine Learning Blog · aws.amazon.com