用分布式 KV 缓存智能体技能降低自托管 LLM 成本与延迟
Agent Toolkit for AWS 的分布式 KV 缓存技能可让用户在 Kiro、Claude Code、OpenAI Codex 等编程智能体中,通过几轮提示词完成分布式 KV 缓存的评估与配置。
Agent Toolkit for AWS 的分布式 KV 缓存技能可让用户在 Kiro、Claude Code、OpenAI Codex 等编程智能体中,通过几轮提示词完成分布式 KV 缓存的评估与配置。
Hugging Face 与 Thinking Machines Lab 联合发布 Inkling 2 Mini,一款面向本地部署的多模态 MoE 模型,物理参数约 26B、每 token 激活 3B,支持 1M token 上下文。
推荐理由:原文详解了循环层与跨轮消息机制如何让 24 个物理层达到 48 层逻辑效果,可迁移到其他端侧模型设计。
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由:原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
演示视频展示了 PR 扫描的实际使用过程,讲解者在 pull request 工作流中查看并审查扫描结果。
OpenAI 分享了 Codex Security Plugin 的演示视频,完整展示从开始使用到审查结果的工作流。用户可跟随录像了解该插件的实际操作流程。
OpenAI 发布分析,量化编程智能体在加速 AI 研究方面的作用,指出其表现仍参差不齐。文章进一步探讨了这种不均衡对递归自我改进意味着什么。
推荐理由:原文量化了编程智能体在加速 AI 研究中的不均衡表现,读者可据此判断智能体在哪些研究环节真正可靠。
Airbnb 分享了如何用单任务成本(cost per task)在 Amazon Bedrock 上评估并运营内部编码智能体 AirChat。发布前对每个模型和推理强度跑自建任务评测,同时记录分数与单任务成本;发布后用 CloudWatch 的延迟、限流和 token 指标对照评测结果排查问题。
推荐理由:原文给出了一套把评测分数和单任务成本结合起来选模型、再用生产数据回检的完整方法,可直接迁移到自己的编码智能体运维。
Google DeepMind 发布 Gemini 4 Neon,面向复杂软件工程、知识工作与科学工作流,今日起在 Gemini API、Google AI Studio、Gemini for business、Google Antigravity 和 Gemini app 逐步推出。
推荐理由:原文给出 Neon 与 Carbon 在多项基准上的成本和性能对比,读者可据此判断它在复杂工作流中的性价比。
RadixArk 发布首个模型 DaisyRose-27B,基于 Qwen3.8-27B,用 Miles 强化学习框架在长程智能体任务上训练,会话最长 1M tokens。
推荐理由:原文给出以 1,200 个任务、18 天、144 张 H200 完成长程智能体强化训练的完整做法,可作类似训练方案的参考。
OpenAI 发文解析 Codex 沙箱的运行机制。Codex 在 macOS、Linux 和 Windows 上执行命令时,会执行用户设定的文件系统和网络限制,使本地命令执行处于用户可控的边界内。
OpenAI 发布 GPT-6.2 Astra 与 Sol,在专业输出、编码、计算机使用和效率上均有改进,同时成本更低。新模型覆盖 ChatGPT Work、Codex 和 API。
推荐理由:原文列出新模型在专业输出、编码和计算机操作上的改进及三条落地入口,读者可对照现有工作流评估升级价值。
Revolut 借助 OpenAI 模型与 Codex 将编码时间缩短 30–60%。同一套技术还用于扩大金融犯罪调查的规模,并支持其在不牺牲安全性的前提下推进创新。
UC Berkeley 与 Microsoft Research 等团队发布开源插件 TokenEconomizer,它从智能体在代码仓库的历史会话中学习,在不修改智能体或底层模型的前提下降低后续会话成本。
推荐理由:论文给出了一套不改动模型即可复用的经验式成本控制方法,读者可迁移到自己的编码智能体工作流。
AWS 提出五阶段方法论,用 Amazon Bedrock、Kiro IDE 和 AWS Transform 将大型机 Assembler 程序经中间 COBOL 阶段转换为 Java Spring Boot 服务。
Amazon Bedrock 的开放权重模型现已支持显式提示词缓存,用户可在 Chat Completions API 中用 prompt_cache_options 与 prompt_cache_breakpoint 标记可复用前缀,重复上下文直接从缓存读取,从而降低输入成本与响应延迟。
AWS 官方博客演示如何用 AWS CDK 将 LiteLLM 与 NVIDIA NeMo Switchyard 路由插件部署到自己的 AWS 账号,把编码智能体的请求在 Amazon Bedrock 上的 Claude Opus 5.5 与 NVIDIA Nemotron 3 Super 120B 之间路由。
AWS 官方教程讲解如何通过 IAM Identity Center 联邦身份,为 Amazon Bedrock 上的 AI 编码与生产力工具实现按用户成本归因。
Amplitude 的主动式产品智能体 Wave 主要基于 OpenAI 模型构建,使产品改进能在 1–2 天内发布。它能识别要构建什么,帮助团队用编码智能体发布变更,并衡量这些变更的影响。
Gondola 借助 Codex 和 ChatGPT 实现收入翻倍,Codex 将其首席工程师的产出提升了 50%。Gondola 主要帮助创意工作者获得署名与工作机会,ChatGPT 同时简化了团队的日常工作。
GitHub 官方博客讲解了如何编写可跨智能体客户端复用的智能体技能(agent skill):技能是以 SKILL.md 为中心的版本化目录,用来固化可重复的任务指令,环境仍需自行提供工具、凭据和权限。
推荐理由:原文给出把智能体技能打包到 Claude Code、Cursor 与 GitHub Copilot 的做法与 CI 校验步骤,读者可直接迁移到自己的多客户端工作流。
Microsoft Research Focus 第 98 期分享微软最新研究进展,涵盖 AI 通用翻译、解决 31 年的 KLS 猜想及提升编程智能体效率。APEC 方法通过后台准备摘要,将编程智能体成本降低 25.4%、执行时间缩短 9.6%。Latent Core Tokenizer 在 104 种语言上生成更具语言学意义的 token,提升多语言基准表现。
Amplitude 的主动式产品智能体 Wave 主要基于 OpenAI 模型构建,使产品改进能在 1–2 天内发布。它能识别要构建什么,帮助团队用编码智能体发布变更,并衡量这些变更的影响。
Google DeepMind 发布 Gemini 4 Hydrogen,定位日常编码与智能体工作流的快速执行模型,即日起在 Gemini API、AI Studio、Gemini app、Google Search 等全端开放。
推荐理由:Hydrogen 与 Carbon、Argon 形成快慢分工,并带来多模型编排入口,读者可据此重新规划编码与智能体工作流。
Holiday Extras 借助 Codex 将客户专业知识转化为更优质的应用、更高的预订转化率和新的增长可能。
AWS 展示了如何用 Spring AI 和 Amazon Bedrock AgentCore 在 Java 中构建自主 AI 智能体,覆盖规划、工具调用与跨多轮对话的记忆能力。
OpenAI Codex 可通过 Amazon Bedrock 调用 GPT-5.6 Sol 等 OpenAI 模型进行推理,并纳入企业现有的 AWS 身份、IAM 与可观测性体系。
CodeRabbit 使用 OpenAI 模型治理和信任 AI 生成的代码。借助 Codex,CodeRabbit 在工程团队规模不变的情况下将软件交付量提升 20 倍。
AWS 宣布 Claude Fable 5.2 和 Claude Mythos 5.2 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。
推荐理由:原文给出新模型的能力定位与 Bedrock 迁移方法,读者可对照 claude-api skill 完成代码升级。
Cult.fit 正在使用 Codex,帮助各职能团队构建工具、提升推进速度,并改变工作完成方式。
OpenAI 将收购 Pierre Computer Company, Inc.,以扩展 Codex 在构建、理解和审查代码方面的工具。
推荐理由:本次收购直接指向 Codex 的工具链补全,读者可据此判断 OpenAI 在代码构建、理解与审查环节的整合方向。
OpenAI 构建了 Pando——一款 Git 兼容的后端,专为应对 Codex 所带来的开发规模而设计。该方案旨在支撑 Codex 推动下的大规模软件开发需求。
Qodo 将企业知识与编码标准整合进 Codex,让 AI 代码审查具备公司上下文。开发者可在发起 pull request 前跨代码仓库提前发现 P0 级问题。
AWS 官方博客介绍了 Amazon Bedrock AgentCore runtime 的 Session endpoints:为每个智能体会话生成带鉴权的 URL,将 HTTP 与 WebSocket 请求转发到会话内允许的端口,使编程智能体编辑的网页在浏览器中无需刷新即可更新。
推荐理由:原文逐步演示了如何用 Session endpoints 在浏览器中实时预览智能体构建的网页,读者可把这套带鉴权的端口转发机制迁移到自己的智能体调试流程。
Microsoft Research Focus 第 97 期分享了微软在 AI 智能体、Copilot 使用及天气预报等领域的研究进展。自我改进框架 ForkPilot 在六个基准测试中最多减少 59% 的 AI 处理需求,研究还发现编程智能体的瓶颈在于理解陌生代码库。此外,Copilot Chat 最常见的活动是编辑文档(超 20%),BioEmu2 也已开启公共预览。
Mistral 发布多模态 MoE 模型 Mistral Large 4(代号 Le Chonk),总参数约 1T、激活参数 49B,上下文窗口 1M tokens,以 Mistral Ecosystem Open-Weight License 开源,并提供 FP8 与 NVFP4 两种官方变体。
推荐理由:原文给出 Mistral Large 4 的架构细节、安全基准与多种部署方案,便于与同类开源模型比较选型。
OpenAI 与 ServiceNow 扩大企业工作流合作,将 OpenAI 模型和智能体引入 ServiceNow 平台。同时,ServiceNow 的工作流将接入 ChatGPT 和 Codex。
Google DeepMind 发布前沿模型 Gemini 4 Carbon,主打网络安全与长程任务能力,在 Artificial Analysis Intelligence Index v5.0 排名第一(59 分)。
推荐理由:原文给出 Carbon 在网络安全与编码基准上的具体得分,并与 Argon 逐项对比,便于读者判断其在安全防御场景的定位。
Greptile 用 GPT-6 Astra 测试用户工作流,将 bug 检测能力延伸到代码审查之外。同时,Greptile 用 Daybreak 强化安全,并用 Codex 减少返工。
CodeRabbit 采用 GPT-6.1 Sol 排查复杂代码库中的安全风险。其安全智能体可帮助开发者审查安全发现及建议的修复方案。
OpenAI 工程师借助 Codex Ultrafast 将事故调查从数小时缩短至数分钟。该工具同时加速安全分析、代码重构与日常工程工作流。