OpenAI News·· 1 天前精选AI 评分71
OpenAI 详述对抗性蒸馏防御与受保护推理防护进展
Combatting adversarial distillation
AI 导读
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由
原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
来源:OpenAI News · openai.com