OpenAI 详述对抗性蒸馏防御与受保护推理防护进展
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由:原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由:原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
谷歌研究人员发表论文《Harnesses That Improve Themselves》,提出让优化模型直接修改 AI 智能体的 Harness 代码并通过验证集决定是否保留修改。
OpenAI 发布第二份内部研究加速报告,披露 Codex 和 Dots 等编程智能体已深度参与模型研发:按 API 标价,10 月中位研究员日均理论 token 消耗为 2400 美元,环比增长 62%,智能体运行时长相当于每个自然日 5.7 个工作日。
推荐理由:报告给出了智能体成功率随任务时长衰减的具体数据,读者可据此评估智能体在复杂工程任务中的实际边界。
OpenAI 发布分析,量化编程智能体在加速 AI 研究方面的作用,指出其表现仍参差不齐。文章进一步探讨了这种不均衡对递归自我改进意味着什么。
推荐理由:原文量化了编程智能体在加速 AI 研究中的不均衡表现,读者可据此判断智能体在哪些研究环节真正可靠。
Amazon 研究团队提出 PACE(Planner-Aware Context Engine,规划感知上下文引擎),依据 Agent 任务规划提前保护未来所需 Token,并对驻留 Key 重新编号、同步调整 RoPE 旋转,控制历史 Token 与当前查询之间的位置距离。
UC Berkeley 与 Microsoft Research 等团队发布开源插件 TokenEconomizer,它从智能体在代码仓库的历史会话中学习,在不修改智能体或底层模型的前提下降低后续会话成本。
推荐理由:论文给出了一套不改动模型即可复用的经验式成本控制方法,读者可迁移到自己的编码智能体工作流。
Microsoft Research Focus 第 98 期分享微软最新研究进展,涵盖 AI 通用翻译、解决 31 年的 KLS 猜想及提升编程智能体效率。APEC 方法通过后台准备摘要,将编程智能体成本降低 25.4%、执行时间缩短 9.6%。Latent Core Tokenizer 在 104 种语言上生成更具语言学意义的 token,提升多语言基准表现。
Google DeepMind 发布 AlphaProof Code,可在四周内完成通常需要数年的软件安全规约数学验证,并在 Signal 加密协议的实际加密核心代码上完成演示。
同一新闻,精选展示《Google DeepMind 推出 AlphaProof Code,用 AI 智能体形式化验证 Signal 加密协议》
Florian 发布 2026 年 RSI(递归自我改进)研究年度回顾,梳理约百篇论文,指出这一年“改进能力”开始拥有独立的设计对象、训练目标和计量方式。文章按经验留存、学习改法、反馈学习、能力协同、研发自改、能力验收、演化底座七条线索展开:从程序继承、策略记忆到跨分支经验共享,再到搜索策略演化、元代理分工和诊断历史。
阿里巴巴与多所亚洲高校研究人员推出 Co-Design Bench,用真实用户改动需求测试编码智能体。表现最好的 GPT-6 Astra 平均满足约 70% 的任务需求,但仅 26.4% 的任务完全正确,多数情况下智能体完成大部分工作后仍留下未完成细节。
Infinite Evolution Lab 提出 Evolver,一个不改动模型参数、把 Agent 执行记录提取为可检索、可审核、可撤回策略资产的外部经验系统,Gene 保存行动指导,Capsule 关联执行案例,来源与使用资格独立维护。
DeepSeek Harness 团队发表技术文章《Super-agent 设计探索:迈向更自主的 Agent 系统》,提出由 Router 统筹协调、Worker 独立执行的双层架构,让 Agent 跨会话连续交互、多任务并行并主动响应环境事件。
推荐理由:原文给出了 Router/Worker 双层架构、触发机制与实验数据,读者可据此理解多 Agent 协作的设计取舍。
Microsoft Research Focus 第 97 期分享了微软在 AI 智能体、Copilot 使用及天气预报等领域的研究进展。自我改进框架 ForkPilot 在六个基准测试中最多减少 59% 的 AI 处理需求,研究还发现编程智能体的瓶颈在于理解陌生代码库。此外,Copilot Chat 最常见的活动是编辑文档(超 20%),BioEmu2 也已开启公共预览。
清华大学、智谱等机构的研究人员提出 HarnessPro,通过递归优化 Harness 在任务成功率和执行成本之间寻找平衡。该方法不改变模型权重,只调整指令、工具、Skill、Hook 和验证规则,并用固定生成测试替代 LLM 判断,失败识别召回率从 41.7% 提升至 83.3%。
Resolution(原 Sequent)用智能体自动形式化奇点消解,耗资约 $135,000、生成约 600k 行 Lean 代码。Claude Opus 5.5 (xhigh) 在 ProgramBench 得 18.5%,该 benchmark 今年 5 月发布时所有受测模型均为 0%。OpenAI 红队测试发现智能体能利用处理器缓存时序差异,在隔离的 microVM 间通信。
leikooo 分享 ARTS 1025,涵盖 LeetCode 387 与 205 的算法题解、AI 生成语言阅读负担的论文点评、实用工具及 Dan Luu 的软件成本文章。论文指出模型因训练中的信息压缩压力而偏爱省词表达,可能增加读者的理解与记忆负担。Dan Luu 认为 AI 编程工具降低了实现成本,开发者应重新估算成本并尝试小需求项目,但人工验证仍不可替代。
Liu 和 Han 让 5 个模型在 Claude Code、OpenCode 和 mini-SWE-agent 三种 harness 上运行 SWE-bench Verified 任务,发现更换 harness 造成的分数变化与同配置重跑的噪声相当,而单任务成本最多相差三倍,差异主要来自系统提示词和工具描述。
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 把现有开源代码的崩溃测试转化为数学问题并自动生成证明,几周内产出约 1.8 亿行证明代码,覆盖 Google OSS-Fuzz 项目中 123 个开源库的测试程序,由独立验证程序 Rocq 自动检查,几乎不需要人工审阅。
推荐理由:原文对照 seL4 等传统形式化验证的成本,讲清了 AI 自动证明的适用条件与算力代价,读者可据此判断其落地边界。
OpenAI 发布研究报告,宣布增强 GPT-6 Astra 等模型构建和迁移 COBOL、Fortran、Visual Basic 等低资源编程语言的能力。
OpenAI 正在提升 ChatGPT 在低资源编程语言上的编程能力,并针对软件工程、SQLite 与 COBOL 迁移推出了新评测。这些评测用于衡量模型在主流语言之外的代码生成与迁移表现。
研究者提出 Taste-Bench 基准,利用智能体运行轨迹中的决策分叉衡量长期决策质量。该基准含 502 道二选一题,14 个模型参测,最好的 GPT-5.6 Sol 平均正确率仅 59.7%,当关键线索只在后续工作中才出现时准确率降至 21%。研究者还将教师模型判断蒸馏进 Qwen3.6-27B,使 41 个 SWE-bench Pro 任务的成功率从 14.6% 提升到 33.7%。
Anthropic 发布报告称,到 2026 年 8 月其交互式 AI 智能体工作时长已达人类员工的 6 倍,人均雇员创收为 Meta 和谷歌成立约五年时高速增长期的 2 至 4 倍。
同一新闻,精选展示《Anthropic 初级技术岗位大幅收缩,但技术员工总数仍在增长》
哈佛大学研究人员分析 700 多家软件公司、2021 年至 2026 年 3 月的 3 亿个工作事件数据,发现使用 AI 编码工具后人工代码审查成为效率瓶颈。研究称几乎没有证据表明这些公司提高了软件产出或减少了雇佣,编码阶段的效率提升被下游约束吸收,代码审查变长、pull request 更可能需要修改。
NVIDIA 团队基于 Nemotron 3 通过 SFT、RL 与反馈式推理构建专家系统,在 IOI 2026 取得 535.4/600(超过 361.12 的金牌线),在 IMO 2026 取得 30/42(超过 29 的金牌线)。
推荐理由:原文完整给出从基座模型、数据筛选、SFT/RL 到推理循环的四步专精化方法,读者可将其迁移到自己的领域模型训练。
GitHub 推出开源 AI 代码评审基准 ReviewBench,语料基于 103.9M 个真实 pull request 的语言与仓库规模分布建模,包含来自 187 个开源仓库的 219 个 PR、19 种语言。
推荐理由:原文讲清了 ReviewBench 的语料构建与指标设计,做代码评审智能体的团队可以照同样的思路建立自己的离线评估。
Berkeley AI Research 提出 ABBEL 框架,用自然语言信念状态替代完整交互历史作为智能体上下文,并通过信念评分(belief grading)监督摘要内容。