OpenAI 破坏一起协同模型蒸馏活动并加强防御
OpenAI 宣布破坏了一起试图提取受保护模型推理的协同蒸馏活动,并正在加强对对抗性蒸馏的防御。
推荐理由:原文披露了 OpenAI 应对协同蒸馏攻击的处置过程与防御思路,可作为了解对抗性蒸馏威胁的一手材料。
OpenAI 宣布破坏了一起试图提取受保护模型推理的协同蒸馏活动,并正在加强对对抗性蒸馏的防御。
推荐理由:原文披露了 OpenAI 应对协同蒸馏攻击的处置过程与防御思路,可作为了解对抗性蒸馏威胁的一手材料。
Multiverse Computing 发表论文 ProvenanceGuard,提出面向 MCP 智能体的来源感知事实性验证方法,专门检测事实成立但归属来源错误的跨来源混淆问题。
推荐理由:论文针对 MCP 智能体的跨来源混淆问题提出来源感知验证方法,在医疗测试中拦截了专家判定不应通过的 139 条声明里的 138 条。
Google DeepMind 宣布为 Private AI Compute 平台引入私密的服务端记忆层,让 AI 在跨设备间保持长期连续性的同时维持与端侧处理同级的隐私标准。
推荐理由:原文给出安全飞地、加密通道与设备端密钥相结合的架构细节,可迁移到其他需要云上持久记忆的隐私保护设计中。
Berkeley AI Research 提出 SPEX 与 ProxySPEX,利用稀疏性与低度性把交互发现转化为可解的稀疏恢复问题,将交互发现规模从数十扩展到数千个组件。