Microsoft Research· Dimitris Papailiopoulos·· 11 天前精选AI 评分79
微软研究披露 Lazarus:重编程休眠神经元可给 AI 智能体植入后门
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI 导读
微软研究人员发现名为 Lazarus 的后门技术:只需重编程 LLM 中不到 10 个休眠神经元、无需训练,就能让基于该模型的智能体在隐藏触发条件出现时执行攻击者命令,且模型仍能通过标准安全评测。
推荐理由
原文给出了只需重编程少数休眠神经元即可植入后门的机制,读者可据此理解权重审计与来源校验为何是关键防线。
来源:Microsoft Research · microsoft.com