研究发现主流AI智能体框架无法可靠追踪智能体行为

Partnership on AI 的研究者与学术界、公民社会及业界同行共同研究了四种最广泛使用的 AI 智能体框架，发现它们都不能可靠生成安全部署所需的可观测性记录。 这些框架缺少持久的 Agent ID 和人类审批记录等关键信号，导致难以追溯具体是哪个智能体执行了什么操作。随着智能体加速投入实际应用，实时监控其行动已成为迫切需要解决的问题。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。