掘金文章：Agent安全需三层护栏，提示词禁令无效

掘金作者指出，只在系统提示里写“不许做”拦不住提示注入，因为攻击指令来自 Agent 自行读取的外部内容，与用户指令在上下文中平级，模型难以区分。 作者将护栏分为三层：上下文层控制模型能看到什么，执行层控制模型能做什么，数据层控制世界能被改成什么样，越靠下的机制越难被绕过。 文章还区分了越狱与提示注入，并强调高风险复核必须由上下文之外的独立机制完成。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。