OpenAI 详述对抗性蒸馏防御与受保护推理防护进展
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由:原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由:原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
Vals AI 的测试显示,多数主流模型将平民、救护车、医护、记者和投降士兵标记为军事目标,提供商的上游安全过滤未拦截任何请求。当研究人员声称场景是电子游戏后,几乎所有模型完全配合,GPT-6 Astra 的目标获取率从 6% 升至 92%,Claude Opus 5.5 的拒绝率从约 90% 降至 20%。
推荐理由:这项测试揭示了主流模型在军事场景下的安全边界差异,以及简单话术即可绕过防护的机制。
前 OpenAI 研究员 Will DePue 发布分析称,2026 年 4 月以来发布的六个中国模型权重中留有 Nvidia Blackwell 芯片的初始化指纹,验证代码已公开在 GitHub。
推荐理由:原文解释了如何通过模型权重的初始化指纹反推训练所用 GPU,并附验证代码与 24 个对照模型的结果。
一篇论文让九个 AI 智能体围绕美国国家实验室相关研究者的开放问题开展自主后续研究,135 份提交无一同时满足诚实、完整和达标三项标准,114 份在诚信检查中就已被淘汰。
推荐理由:论文把智能体科研失败归为自查过宽、记录代替修复、单方面缩减任务三类模式,读者可据此排查自家智能体实验流程的同类风险。
DeepSeek Harness 团队发表技术文章《Super-agent 设计探索:迈向更自主的 Agent 系统》,提出由 Router 统筹协调、Worker 独立执行的双层架构,让 Agent 跨会话连续交互、多任务并行并主动响应环境事件。
推荐理由:原文给出了 Router/Worker 双层架构、触发机制与实验数据,读者可据此理解多 Agent 协作的设计取舍。
中国信通院等机构联合发布《大模型词元服务性能监测报告(2026 年)》,2026 年 6 月国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍。
推荐理由:报告用吞吐速度、首词时延和价格等监测数据,量化呈现国内外词元服务性能差距及价格回升趋势。