AWS Machine Learning Blog· Aswath Ram A Srinivasan·· 8 天前AI 评分56
用 NVIDIA NeMo Switchyard 在 Amazon Bedrock 上把编码智能体请求路由到合适的模型
Route coding agent requests to the right model on Amazon Bedrock with NVIDIA NeMo Switchyard
AI 导读
AWS 官方博客演示如何用 AWS CDK 将 LiteLLM 与 NVIDIA NeMo Switchyard 路由插件部署到自己的 AWS 账号,把编码智能体的请求在 Amazon Bedrock 上的 Claude Opus 5.5 与 NVIDIA Nemotron 3 Super 120B 之间路由。
来源:AWS Machine Learning Blog · aws.amazon.com