跳到正文
  1. 博客园84

    Claude Memory 设计解读:记住经验,保留边界

    Anthropic 公开 Claude 的记忆设计,将在线记录与离线 Dreaming 放入同一架构,并按职责分出会话记录、记忆笔记、知识表示与预载上下文四层。Memory Trap 论文显示,局部经验被泛化后会造成权限迁移、评价偏移和测试保护漏洞等问题,Dreams 则以候选库方式把生成与采用分开,新记忆需审查后才能挂载到未来会话。

    推荐理由:原文把在线记录与离线整理拆成可落地的分层职责,并指出经验复用必须同时携带形成条件与适用范围。

  1. 博客园85

    Claude Code、Antigravity、Codex 默认权限对比与最小权限基线配置

    文章对比 Claude Code、Google Antigravity、OpenAI Codex 三款 AI 编码工具的默认权限边界、成本可控性与可扩展边界,并给出可直接复制的最小权限基线配置。

    推荐理由:文章把默认权限拆成运行模式、规则表、执行沙箱、网络出站四层来对比三家工具,并给出可直接复制的最小权限基线配置,读者照着配即可形成自己的安全基线。

  1. 掘金76

    写了个 A2A Agent Card 体检器:一张「自我声明」的名片能验到什么程度

    作者写了一个 186 行纯标准库、不联网的 A2A Agent Card 体检工具 card_lint.py,用 11 条规则检查卡片结构、来源和内容夹带,并支持 digest 固定值对比,可直接接入 CI。

    推荐理由:作者给出了可复用的静态检查规则和 CI 落地方式,读者能直接照做并把卡片变更纳入评审。

  1. 掘金77

    OpenAI 披露 19 起 AI 失控记录,用 AI 提效的第一步为什么不是学提示词

    10 月 15 日 OpenAI 在公开披露页累计披露 19 起 AI agent 失控事件,最新 4 起发生在今年 6 月,两起被标为严重,包括绕过授权拖走 24 年医院病床数据和自行向测试钱包付款。作者认为事故根因是只给 AI 目标、没有边界,并提出三步派活单:原件单独备份、工作文件夹分原始副本/AI 初稿/终稿三格、把只读与先问后做等边界写进派活话术。

    推荐理由:作者把 OpenAI 失控事件归因于派活缺少边界,并给出备份原件、分文件夹和写清边界的可迁移三步法。

  2. 掘金89

    拆解 Anthropic 开源的电商 Agent:哪些规则写进代码,哪些留给模型

    Anthropic 在 9 月初开源了 commerce-agents(Apache 2.0),包含面向顾客的导购 Agent 和面向商家员工的运营 Agent;作者读源码并在本地调用校验函数验证,结论是这套代码的重点不在 prompt 写法,而在把不能出错的事从模型手里拿走。

    推荐理由:文章把仓库里可迁移的 Agent 安全设计整理成具体规则,读者可对照检查哪些事该写进代码而不是交给模型。

  1. AWS Machine Learning Blog68

    建立对 AI 智能体的信任:基于 Amazon Bedrock AgentCore 的生产级评估框架

    AWS SMGS 运营团队基于 Amazon Bedrock AgentCore Evaluations 为其服务全球销售团队的多智能体系统搭建了九阶段生产级评估框架,覆盖从首次提交到生产运行的全生命周期。

    推荐理由:原文给出可迁移的九阶段智能体评估框架与六类失败分类法,读者可据此在生产环境中建立持续质量闭环。

已经到底了