OpenAI 详述对抗性蒸馏防御与受保护推理防护进展
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由:原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由:原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
OpenAI 发布第二份内部研究加速报告,披露 Codex 和 Dots 等编程智能体已深度参与模型研发:按 API 标价,10 月中位研究员日均理论 token 消耗为 2400 美元,环比增长 62%,智能体运行时长相当于每个自然日 5.7 个工作日。
推荐理由:报告给出了智能体成功率随任务时长衰减的具体数据,读者可据此评估智能体在复杂工程任务中的实际边界。
OpenAI 发布分析,量化编程智能体在加速 AI 研究方面的作用,指出其表现仍参差不齐。文章进一步探讨了这种不均衡对递归自我改进意味着什么。
推荐理由:原文量化了编程智能体在加速 AI 研究中的不均衡表现,读者可据此判断智能体在哪些研究环节真正可靠。
UC Berkeley 与 Microsoft Research 等团队发布开源插件 TokenEconomizer,它从智能体在代码仓库的历史会话中学习,在不修改智能体或底层模型的前提下降低后续会话成本。
推荐理由:论文给出了一套不改动模型即可复用的经验式成本控制方法,读者可迁移到自己的编码智能体工作流。
Google DeepMind 发布 AlphaProof Code,可在四周内完成通常需要数年的软件安全规约数学验证,并在 Signal 加密协议的实际加密核心代码上完成演示。
推荐理由:原文给出验证规模、人工复核比例与测试 bug 结果,读者可据此判断形式化验证进入工程代码的可行性。
DeepSeek Harness 团队发表技术文章《Super-agent 设计探索:迈向更自主的 Agent 系统》,提出由 Router 统筹协调、Worker 独立执行的双层架构,让 Agent 跨会话连续交互、多任务并行并主动响应环境事件。
推荐理由:原文给出了 Router/Worker 双层架构、触发机制与实验数据,读者可据此理解多 Agent 协作的设计取舍。
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 把现有开源代码的崩溃测试转化为数学问题并自动生成证明,几周内产出约 1.8 亿行证明代码,覆盖 Google OSS-Fuzz 项目中 123 个开源库的测试程序,由独立验证程序 Rocq 自动检查,几乎不需要人工审阅。
推荐理由:原文对照 seL4 等传统形式化验证的成本,讲清了 AI 自动证明的适用条件与算力代价,读者可据此判断其落地边界。
Anthropic 发布报告称,到 2026 年 8 月其交互式 AI 智能体工作时长已达人类员工的 6 倍,人均雇员创收为 Meta 和谷歌成立约五年时高速增长期的 2 至 4 倍。
推荐理由:报告用内部财务与智能体运行数据量化了 AI 对岗位结构和生产率的影响,可作为组织规划的参照。
NVIDIA 团队基于 Nemotron 3 通过 SFT、RL 与反馈式推理构建专家系统,在 IOI 2026 取得 535.4/600(超过 361.12 的金牌线),在 IMO 2026 取得 30/42(超过 29 的金牌线)。
推荐理由:原文完整给出从基座模型、数据筛选、SFT/RL 到推理循环的四步专精化方法,读者可将其迁移到自己的领域模型训练。
GitHub 推出开源 AI 代码评审基准 ReviewBench,语料基于 103.9M 个真实 pull request 的语言与仓库规模分布建模,包含来自 187 个开源仓库的 219 个 PR、19 种语言。
推荐理由:原文讲清了 ReviewBench 的语料构建与指标设计,做代码评审智能体的团队可以照同样的思路建立自己的离线评估。