跳到正文
热点事件持续更新

开发者造「元工具」让 Agent 自己写工具,配三道门禁控风险

1 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

一名开发者设计并实现了 meta_tool:当 Agent 发现自身能力缺口时,可自行生成工具代码,代码经静态门、人工门、运行门三道校验后才会落盘到 generated/ 目录并注入注册表,在下一轮对话中对模型可见。 该机制设有核心约束:手写工具优先于生成工具,非交互环境默认拒绝生成,且生成工具在与 Agent 同一进程内运行、无沙箱隔离。作者在 Node 22 环境下逐一验证了门禁拦截、注册表合并顺序与 ESM 缓存绕过等关键论断。 目前这些设计论断均来自作者本人的测试与陈述,尚无第三方独立验证。

AI 根据报道生成 · 53 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月18日
  1. 掘金
    我给 Agent 造了一个「元工具」:让它自己写工具,再用三道门锁住风险

    作者设计并实现了 meta_tool,让 Agent 在发现能力缺口时自行生成工具代码,再经静态门、人工门、运行门三道门禁校验后落盘到 generated/ 并注入注册表,下一轮对模型可见。核心约束包括手写工具优先、非交互环境默认拒绝、无沙箱同进程运行,作者在 Node 22 上逐一验证了门禁拦截、注册表合并顺序与 ESM 缓存绕过等关键论断。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。