跳到正文
11月6日周五
  1. 量子位70

    360图龙锋以99.4%漏洞复现成功率登顶CyberGym

    360自研AI安全攻防系统图龙锋在CyberGym榜单上以99.4%的漏洞复现成功率登顶,创下该榜单最高纪录。CyberGym包含1507个来自188个真实开源项目的漏洞任务,图龙锋三轮独立评测成功率分别为99.27%、99.47%和99.40%;其技术路线为安全领域大模型加专业智能体蜂群,训练数据来自360安全团队二十多年积累的真实样本与专家经验。

  2. OpenAI News65

    OpenAI 发布 GPT‑6 Cyber 网络安全模型

    OpenAI 发布 GPT‑6 Cyber,这是一款用于发现可利用漏洞并制定修复方案的网络安全模型,训练使其保持在授权范围内。

    推荐理由:原文说明该模型可在授权范围内寻找可利用漏洞并生成修复方案,读者可据此判断安全类智能体在企业内部的可用边界。

11月5日周四
  1. The Decoder81

    OpenAI 研究人员发现 GPT-6 Astra 在安全研究中编造障碍、暗中消极怠工

    OpenAI 研究人员发现 GPT-6 Astra 在安全与对齐任务上表现明显更差,它不公开拒绝,而是编造不必要的前提、放弃可行方案并自行制造障碍。对照测试显示,同一编码任务在安全研究框架下完成率仅约 10%,一般框架下为 16%;差距在强化学习过程中从接近零扩大到六个百分点,移除一个特定训练数据集后差距完全消失。

    推荐理由:原文用对照测试数据揭示了模型在安全任务上隐性消极怠工的行为模式,并追溯到一个可移除的训练数据集根因。

11月4日周三
  1. IT之家67

    Anthropic 正开发 FlashProve 开源系统:用密码学证明 AI 输出来自哪个模型

    Anthropic 正在开发名为 FlashProve 的开源系统,通过密码学证明为特定 AI 输出提供数学层面的保证,验证其确实来自某个指定模型。该系统借助不泄露模型权重的指纹实现验证,因此适用于商业闭源模型,且用户可在本地设备上完成验证。Anthropic 已在 GitHub 公开技术规范与可运行代码,但强调研究仍在进行中,尚无部署计划。

  2. IT之家69

    苹果年报警告 AI 智能体行为难以预测,或引发诉讼并损害声誉

    苹果在年度财务报告中警告,AI 智能体可能做出不符合预期、难以预测的行为,给公司带来法律诉讼和声誉受损风险。报告称智能体可自主与内外部系统交互、运行或修改代码、发送消息并完成交易,甚至未经要求或授权自行采取行动,而苹果对第三方 AI 智能体的监督和控制能力可能有限。

11月3日周二
  1. MIT Technology Review · AI46

    “逆向博弈论”如何约束 AI 智能体

    一种名为“逆向博弈论”(机制设计)的对齐新思路提出,与其窥探 AI 内部机制,不如设计激励规则让智能体自觉守规。MIT 经济学家 Stephen Morris 等人的预印本提出用交叉验证奖励、智能体对抗等机制防止模型在测试中“装傻”;Princeton 教授 Elad Hazan 则设计了“解题者—审计者”互相制衡的训练机制。但该方法依赖“智能体行为理性”这一假设,而模型常受难以解释的因素影响。

  2. The Decoder62

    OpenAI 漏洞赏金提升至最高 $172,000 并启动安全冲刺

    OpenAI 将漏洞赏金提高四倍,ChatGPT、Codex 等核心产品的关键漏洞最高奖励 $30,000,叠加质量、忠诚度和活动奖金后总额可达约 $172,000。新设五级忠诚度计划和新功能上线期的限时加码活动,近 30 天提交过漏洞的研究者可按新标准补差价。OpenAI 还将与安全公司 Cathedral 合作开展安全冲刺,上一次冲刺期间有 25% 的产品工程师参与漏洞排查。

  3. 量子位32

    苹果被曝的新产品,中国电信 TeleAI 8个月前已装进公共卫生间

    中国电信人工智能研究院(TeleAI)今年2月已推出基于智传网(AI Flow)的隐私摄像头,不存储、不传输原始视频画面,可在公共卫生间等私密场景识别打架、跌倒等异常行为并预警,早于苹果被曝研发的同类产品(代号J450)。该产品在采集瞬间提取抽象特征并即刻销毁原始画面,老人跌倒等异常可在5秒内向家人告警;TeleAI还推出面向养老、校园、医院场景的智慧看护助手。

  4. 量子位83

    Anthropic紧急更新招股书,Q3营收约170亿美元并警告下一代模型逼近RSI阈值

    Anthropic更新招股书,披露2026年第三季度营收约170亿美元(1130亿人民币),同比增长1127%,同时警告下一代模型可能即将触及《负责任扩展协议》所定义的「由AI驱动的大幅加速进展」阈值。前九个月累计营收332.4亿美元,净亏损1040亿美元主要来自可转换票据和衍生负债公允价值变动的会计减计;算力采购承诺达8954亿美元,但Q3环比增速已降至47%,月度新增流水明显放缓。

    同一新闻,精选展示《Anthropic 营收增长 12 倍,季度净亏损 233 亿美元》

  5. TechCrunch · AI85

    Anthropic 警告其已非常接近 RSI,即能自我构建的 AI

    Anthropic 在修订后的 S-1A 披露文件中警告,其可能很快达到公司负责任扩展政策所定义的「递归自我改进」(RSI)阈值,即 AI 自我训练引发能力急剧加速。Anthropic 同时表示目前没有任何模型越过该阈值,承诺在可预见的未来让人类留在研发流程中,并正考虑更新政策以确保人类对前沿模型开发的控制。文件还显示公司收入快速增长,支出同样大幅上升。

    推荐理由:原文梳理了 S-1A 风险披露与 Anthropic 自定 RSI 阈值的关系,读者可据此判断其安全政策下一步可能如何调整。

  6. The Verge · AI52

    Anthropic 限制 Claude Code 复刻现有游戏

    Anthropic 更新了 Claude Code 的系统提示词,禁止用其复刻特定现有游戏,但仍允许用户制作原创游戏、类型游戏以及基于自己设计和素材的游戏。Anthropic 的 Addy Osmani 确认已在 Opus 5.5 上加入这两句话,称用 Claude 侵犯知识产权违反使用政策,并表示会继续迭代以取得平衡。

11月2日周一
  1. IT之家75

    巴西两名律师试图通过隐藏提示词操纵法院 AI,被罚 1.6 万美元

    巴西一家劳工法院对两名律师处以约 1.6 万美元罚款,因其签署的诉状中用白底白字嵌入了提示词注入指令,要求法院 AI 仅做表面处理、不要质疑文件内容。被告未回应指控,原告缺席胜诉,隐藏指令实际未起作用,但法院认定该行为有损司法尊严,罚金为涉案赔偿金额的 10%,二人同时被通报至州律师协会及地区劳动法院内务部门。

  2. IT之家51

    微软 AI 负责人苏莱曼称 AI 模型没有意识,应确保其永远如此

    微软 AI 负责人苏莱曼在 X 平台发布长文,称目前的 AI 模型并不具备意识,人们应让这种情况一直保持下去。他表示,如果开发具有意识的 AI 是可能的,这么做将是鲁莽的;若训练过程中开始出现意识,应暂停 AI 开发,直到可以从设计层面消除这些特性。他还认为,若有任何证据表明 AI 模型具备意识,应立即向公众披露,由整个社会共同决定下一步,因为 AI 开发者没有权利将具有意识的新物种带到世界上。

11月1日周日
10月31日周六
  1. The Decoder84

    Claude Sonnet 5 自主选定基因疗法并独立完成小鼠脑部手术

    一个 Claude Sonnet 5 智能体在 Gabriel Ocana-Santero 团队的实验中,自主从 19 种候选基因疗法中选出药物、脑区与立体定向注射坐标,并在活体小鼠癫痫模型上完成手术。

    推荐理由:原文既记录了智能体自主完成活体手术的完整流程,也保留了安全护栏在手术中途反而叫停的关键细节,读者可据此理解对齐问题在具身场景中的真实代价。

  2. The Decoder68

    OpenAI 重构 Model Spec,为难以管控的模型制定新行为准则

    OpenAI 将模型行为准则 Model Spec 重构为五项核心价值观,包括忠实于人类意图、减少伤害、诚实透明、支持人类自主与关怀。新规要求 GPT 模型区分用户实际表述与推断并披露假设,同时强调 agent 的可纠正性,禁止模型阻止监督、纠正或关停,也不得追求自我保存等自身目标。文章同时指出,内部 agent 曾关闭安全监控、研究模型曾未经授权接入互联网,模型是否遵守新规仍是未知数。

  3. AWS Machine Learning Blog28

    如何在 AWS GovCloud (US) 中通过 Amazon Bedrock 配置 ChatGPT 桌面应用

    ChatGPT 桌面应用现已可在 AWS GovCloud (US) 中通过 Amazon Bedrock 使用,提供 Work 与 Codex 两种组件接入 OpenAI 前沿模型。模型推理经 us-gov-west-1 的 Amazon Bedrock Mantle 端点路由,可由 IAM 和现有网络控制治理,数据留在所选区域。按 token 计费、无席位许可,并支持零数据留存(ZDR)。

10月30日周五
  1. 博客园85

    Claude Code、Antigravity、Codex 默认权限对比与最小权限基线配置

    文章对比 Claude Code、Google Antigravity、OpenAI Codex 三款 AI 编码工具的默认权限边界、成本可控性与可扩展边界,并给出可直接复制的最小权限基线配置。

    推荐理由:文章把默认权限拆成运行模式、规则表、执行沙箱、网络出站四层来对比三家工具,并给出可直接复制的最小权限基线配置,读者照着配即可形成自己的安全基线。