跳到正文
OpenAI News·· 1 天前精选AI 评分71

OpenAI 详述对抗性蒸馏防御与受保护推理防护进展

Combatting adversarial distillation

AI 导读

OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。

推荐理由

原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。

来源:OpenAI News · openai.com