跳到正文
热点事件持续更新

OpenAI 发布对抗性蒸馏防御,称攻击成功率降至 0.2%

2 篇报道2 个报道来源21 小时前更新

先了解这件事

AI 综述

OpenAI 发布了检测与打击对抗性蒸馏的防御体系,并强化 GPT-6.2 Astra 与 GPT-6.2 Sol 的受保护推理防护。OpenAI 称,其内部自动化测试显示,攻击者从先前请求中提取受保护推理的成功率由 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%;The Decoder 引述同一结果并补充,针对当前请求的攻击成功率也从 22.9% 降至 0.9%。 对抗性蒸馏指攻击者试图从模型输出中提取其内部推理过程。OpenAI 一并分享了内部蒸馏实验及红队评估结果,上述降幅均为 OpenAI 内部测试得出的数字,目前未见独立验证。

AI 根据报道生成 · 21 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. The Decoder
    OpenAI 大幅提升 GPT-6.2 Astra 与 GPT-6.2 Sol 的推理防提取能力

    OpenAI 大幅强化了 GPT-6.2 Astra 与 GPT-6.2 Sol 的内部推理保护,内部自动化测试显示,从先前请求提取受保护推理的攻击成功率由 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,当前请求攻击从 22.9% 降至 0.9%。

11月20日
  1. OpenAI News精选
    OpenAI 详述对抗性蒸馏防御与受保护推理防护进展

    OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。

本事件热度走势

可比范围当前
10
可比范围峰值
1711月21日 05:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。