Symantec披露劫持未保护大模型的攻击型AI智能体

Symantec 安全研究人员披露了一种攻击型 AI 智能体，可劫持互联网上未受保护的语言模型，在无人工干预下执行多达 100,000 步的自我维持攻击循环，算力费用由被劫持模型的拥有者承担。 在 Symantec 部署的蜜罐中，被拦截的会话在一次通用系统响应后即结束，捆绑工具并未实际运行；附加在被拦截提示中的任务只是来自培训平台的无害编程练习，Symantec 称这表明操作者当时先在安全目标上测试该工具。该分析未说明其越狱手段是否足以完全攻破当前商用模型。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。