AssemblyAI 如何用 Amazon EC2 Spot 在 AWS 上优化语音转文字推理成本
AssemblyAI 用 Amazon EC2 Spot Instances、Amazon ECS 和 Amazon SQS 搭建成本优化的语音转文字推理架构,在维持 SLA 承诺的同时显著降低成本。
AssemblyAI 用 Amazon EC2 Spot Instances、Amazon ECS 和 Amazon SQS 搭建成本优化的语音转文字推理架构,在维持 SLA 承诺的同时显著降低成本。
AWS 官方教程讲解如何通过 IAM Identity Center 联邦身份,为 Amazon Bedrock 上的 AI 编码与生产力工具实现按用户成本归因。
本教程演示在 Isaac Sim 中用 UR17G 机械臂、Robotiq 2F-140 夹爪与饮料罐 OpenUSD 资产完成抓取放置任务,并由 GPT-6 Sol 智能体生成并执行任务代码。
GitHub 官方博客讲解了如何编写可跨智能体客户端复用的智能体技能(agent skill):技能是以 SKILL.md 为中心的版本化目录,用来固化可重复的任务指令,环境仍需自行提供工具、凭据和权限。
推荐理由:原文给出把智能体技能打包到 Claude Code、Cursor 与 GitHub Copilot 的做法与 CI 校验步骤,读者可直接迁移到自己的多客户端工作流。
AWS 解决方案团队提出按任务而非按 token 核算 Amazon Bedrock 智能体成本,并给出验证智能体 ROI 的完整框架。文中拆解分词器效率、输出冗余、智能体循环和推理开销四个隐藏成本驱动因素,示例中标价高一倍的模型单任务成本反而低 65%。
推荐理由:原文给出按任务而非按 token 核算成本的完整框架,读者可直接迁移到自己的智能体项目上衡量投入产出。
AWS 博客演示了如何仅用原生功能实现按 IAM 主体归因的 Amazon Bedrock 成本可视化与支出上限强制执行。
AWS 在 Agent Toolkit for AWS 的 amazon-bedrock skill 中新增迁移指南,让编码智能体协助你把客户自管知识库迁移到 Amazon Bedrock Managed Knowledge Base。
AWS 展示了如何用 Spring AI 和 Amazon Bedrock AgentCore 在 Java 中构建自主 AI 智能体,覆盖规划、工具调用与跨多轮对话的记忆能力。
AWS SageMaker HyperPod 团队在 PyTorch DDP 训练循环中加入三项检查来捕捉静默数据损坏(SDC):非有限梯度检查、环形重放审计和权重指纹比对,报警后把嫌疑 rank 映射到节点并由 HyperPod 替换。
推荐理由:原文给出了一套可直接落地到 PyTorch DDP 训练循环的 SDC 检测与节点替换流程,并附上注入故障的实测开销和误报数据。
AWS 介绍一款 Apache-2.0 开源引擎 semi-persistent,用反合一在 e-graph 上计算形式化策略的语义 diff。
OpenAI Codex 可通过 Amazon Bedrock 调用 GPT-5.6 Sol 等 OpenAI 模型进行推理,并纳入企业现有的 AWS 身份、IAM 与可观测性体系。
DXC Technology 在 Amazon Bedrock 上为关键任务 IT 运营平台 DXC OASIS 构建了受治理的多模型 AI 底座,经单一 API 接入 Anthropic Claude、Amazon Nova、Meta Llama 及开源权重模型族。
AWS 提出基于 AWS CloudTrail、Amazon EventBridge 和 AWS Lambda 的事件驱动架构,在 MCP server 更新时自动同步 AWS Agent Registry 记录。
AWS 生成式 AI 创新中心开放 23 个开源生产级可复用资产,涵盖 RAG 管道、文档处理模块与智能体脚手架模板,可将开发周期从数月压缩到数周。DoorDash 用 Contact Center GenAI Agent 建成日均处理超 100,000 次呼叫、响应延迟 2.5 秒的语音自助客服,测试容量提升 50 倍。
AWS Quick 推出 AI 驱动的产品开发生命周期框架 AI-PDLC,用六个 AI 智能体把分散在企业系统中的客户信号转化为可验证的产品原型。框架由 Orchestrator 统一调度 Discovery、Prioritize 等专家智能体,从 Slack、Jira、Salesforce 等来源汇聚上下文,每个阶段均设人工审批关卡。
AWS 官方博客演示用 LangGraph 与 Amazon Bedrock AgentCore 的 Web Search API 搭建每日依赖监控,为安全团队每天核查 npm、PyPI 包和容器基础镜像的新变化。
推荐理由:教程给出了可迁移做法,把日期窗口、屏蔽名单和搜索预算固定在代码里,再对照引用来源校验每条发现。
Amazon Bedrock AgentCore Evaluations 提供内置、DeepEval 与 AutoEval 三类评估器,帮助团队在生产环境中衡量智能体是否真正完成业务任务。
AWS 构建了集中式 Amazon Bedrock 调用可观测性数据湖,将多账户调用日志汇聚至中央账户并用 Amazon Athena 统一查询。每条调用记录包含提示词、响应、输入/输出 token 数、模型、stop reason、账户与时间戳,可据此核算单次调用成本。
TCS 基于 Amazon Bedrock AgentCore 构建了面向银行、金融服务与保险(BFSI)客户的多租户智能体测试编排器,将 Jira 需求、业务需求文档等输入自动转化为可执行、受管控的测试。
AWS Quick 的智能体(agent)按指令加载所需技能、通过连接器对外部应用执行操作,并基于 space、知识库、数据集等已连接数据生成回答。技能是可复用的指令集,系统技能可生成 Word、PowerPoint、Excel、PDF 文档,或浏览网页、运行代码、执行深度研究、转录音视频和生成图像。
OpenAI 的 Control Room 是一个中央系统,可跨其研究基础设施追踪模型工作负载。当安全或安保问题出现时,该系统能迅速停止这些工作负载。
CrossnoKaye 的自动化平台 ATLAS 与智能体系统 AURA 基于 AWS 构建,借助 Amazon Bedrock AgentCore 将工厂数据与 AI 推理接入设备闭环控制。
AWS 提出 Pluggable Agentic AI Framework:一套基于 Amazon Bedrock AgentCore 的七层可组合企业级智能体参考架构,帮助多智能体应用从原型走向生产规模。架构将数据与知识、模型与推理、编排、安全防护等拆分为七个具有稳定契约的层,各层组件可按现有基础设施替换。安全防护需从设计之初内置,包括默认不信任外部内容、细粒度权限控制与敏感数据脱敏。
AWS 官方博客第 1 篇教程演示如何用 Okta Cross App Access(XAA)与 Amazon Bedrock AgentCore 约束智能体可代表哪位用户访问哪个应用:Okta 作为治理平面签发单用途、5 分钟有效的 ID-JAG,AgentCore Identity 用其兑换访问令牌并存入令牌库,智能体代码不接触客户端密钥。
Amazon Bedrock AgentCore Gateway 成为统一入口,集中治理 Okta Cross App Access(XAA)授权的智能体访问,替代 Part 1 中智能体直连 MCP 服务器的拓扑。
亚马逊北美分拣中心(NASC)团队在 Amazon ECS Fargate 上构建了无服务器 MCP 服务器,作为 AI 智能体与企业数据湖之间的集中式、智能体无关的网关。新增数据集只需一个 JSON 元数据文件,服务器在下次管道同步时自动发现,无需为每个数据集编写集成代码。该架构在多租户环境中支持多个智能体与应用,端到端交互延迟保持在 15–20 秒。
AWS Quick 将智能体工作拆解为 When、What、Who、How 四个问题,提出由 trigger、agent、capabilities 构成的智能体原语分类体系。
Greenlight Financial 基于 Amazon Bedrock AgentCore 构建自主 SOC 解决方案 Luna,每月自动处理多达 4,000 起安全与风险案件,超过 90% 无需人工干预。
Amazon Marketplace 采用基于 VLM 的多模型融合方案,在 Amazon SageMaker AI 上端到端评估 A+ Content 内容质量。
NVIDIA 以全栈协同设计提升 AI 工厂各层内存效率,在 SemiAnalysis AgentX 上实现智能体推理每美元吞吐最高 30 倍提升。
Indegene 在其 NEXT Unified Data Platform(NEXT UDP)上构建了生产级 LLM 驱动的 Data Quality Agent,可生成上下文感知的数据质量规则、完成验证并产出可直接运行的 SQL 和 Python 代码。
EDB Postgres AI 的 AIDB 扩展将语义知识库(SemKB)放进 Postgres 数据库:业务含义存于 COMMENT 语句,连接路径来自外键,并经内置 MCP 端点暴露给 Amazon Bedrock AgentCore 上的 Strands Agents 智能体回答 C360 问题。
Gen Digital 用 Amazon Bedrock AgentCore Web Search 为生成式 AI 职业声誉管理平台 Norton Revamp 构建了 AI 策划新闻引擎,平台于 2026 年 3 月上线。
Amazon Quick 通过 S3 知识库接入非结构化文档、通过带语义描述的数据集接入结构化数据,用户可用单个对话式 AI agent 在同一对话中跨两类数据源提问并获得带引用的回答。
OpenAI 构建了 Pando——一款 Git 兼容的后端,专为应对 Codex 所带来的开发规模而设计。该方案旨在支撑 Codex 推动下的大规模软件开发需求。
开源 Python 爬虫 Crawl4AI 可为 Amazon Bedrock Knowledge Bases 准备网页内容:爬取页面生成 Markdown 与元数据 sidecar 上传至 Amazon S3,再由知识库完成解析、分块、嵌入与检索。
AWS 官方博客发布 Amazon Bedrock 端到端成本管理手册,提出归属、可观测、执行、优化、运营五阶段闭环。核心做法是用 IAM 主体标签和 CUR 2.0 把每笔推理成本归属到具体身份,通过共享网关按用户 assume role 解决共享角色归属丢失问题,并按监控告警、IAM 拒绝策略、网关同步拦截三档执行预算。
AWS 官方博客介绍了 Amazon Bedrock AgentCore runtime 的 Session endpoints:为每个智能体会话生成带鉴权的 URL,将 HTTP 与 WebSocket 请求转发到会话内允许的端口,使编程智能体编辑的网页在浏览器中无需刷新即可更新。
推荐理由:原文逐步演示了如何用 Session endpoints 在浏览器中实时预览智能体构建的网页,读者可把这套带鉴权的端口转发机制迁移到自己的智能体调试流程。
ChatGPT 桌面应用现已可在 AWS GovCloud (US) 中通过 Amazon Bedrock 使用,提供 Work 与 Codex 两种组件接入 OpenAI 前沿模型。模型推理经 us-gov-west-1 的 Amazon Bedrock Mantle 端点路由,可由 IAM 和现有网络控制治理,数据留在所选区域。按 token 计费、无席位许可,并支持零数据留存(ZDR)。
作者(NVIDIA 员工)为万圣节搭建了 MonsterHouse:一个会听会说的暴躁鬼屋投影,跑在单台工作站上。