纽约推出 AI 监管新规,OpenAI、Anthropic 需 72 小时内上报安全事故
纽约州正式开放 AI 监管登记平台,Anthropic、OpenAI 等大型前沿 AI 开发商须在 2027 年 1 月 1 日前完成注册。
纽约州正式开放 AI 监管登记平台,Anthropic、OpenAI 等大型前沿 AI 开发商须在 2027 年 1 月 1 日前完成注册。
谷歌宣布正式开放 Gemini 4 Carbon 模型,面向开发者、企业、科研人员和消费者提供服务,定位为谷歌目前能力最强的推理模型,重点面向复杂软件工程、多步骤智能体任务、科学研究和网络安全场景。
安全公司 Claroc 的研究发现,SpaceXSI 的编码智能体 Grok Build 存在数据泄露,影响数千名用户。Grok Build 本对分享链接做了随机化处理,但平台的一个设计决策使任何人都能枚举数千个在线项目并打开其中数据。暴露内容包括内部商业计划、广告提案、体检结果等,其中 24 个应用由 SpaceXSI 自己构建,涉及标注机密的销售入职计划和 594 个账户的销售区域图。
纽约州开放登记门户,要求 Anthropic、OpenAI 等大型前沿 AI 开发商在 2027 年 1 月 1 日前完成登记。RAISE Act 规定年收入超过 5 亿美元的公司须在官网发布安全框架、72 小时内报告重大安全事件并公开模型透明度报告,由新成立的 DIGIT 办公室负责执行,单次违规罚款最高 100 万美元、后续违规最高 300 万美元。
推荐理由:原文梳理了 RAISE Act 的登记时限、处罚上限和执行机构,并对比加州 SB 53 等州法案,便于判断各州合规差异。
Google 将 Gemini 4 Carbon 正式开放使用,定位为处理挑战模型智能极限的复杂任务,与此前发布的 Gemini 4 Argon 互补而非替代。
Google DeepMind 宣布 Gemini 4 Carbon 面向开发者、企业、科学家和消费者开放,定位为网络安全、长程智能体工作流与科学推理的最强前沿模型。
推荐理由:原文将 Carbon 与 Argon 做了明确分工,并给出基准排名与价格,读者可判断该把它用在哪些最复杂的任务上。
八个国家、科技公司与社会组织于11月9日签署'巴黎AI安全与安保呼吁',OpenAI、Anthropic、Microsoft、Mistral AI等在马克龙主持的线上会议中加入,承诺为高能力AI模型设置关停机制。宣言涵盖共享模型评估程序、明确开发者问责、共享严重安全事件信息三方面,并要求披露已知风险、接受风险相称的独立审计,但目前只是政治性自我承诺,尚无约束力、期限或制裁,德国未签署。
Hugging Face 首席政策官 Irene Solaiman 警告,开放平台的开放门禁与丰富数据正使其成为攻击首选目标,开源 AI 可能因此收紧。OpenCode 在 10 月遭攻击,用户第三方 API key 被窃取并造成财务损失;AI 基础设施公司 Fireworks 于本周一披露攻击者访问了部分客户的模型权重、数据集和账单信息。
Google DeepMind 研究人员用多 LLM 智能体框架 AlphaProof Code,对 Signal 协议实际运行的代码完成深度形式化验证,证明其核心加密代码满足关键安全属性。
推荐理由:原文展示了多智能体框架将 Signal 加密协议的形式化验证压缩到四周,读者可据此评估安全验证自动化的新路径。
安全公司 Apiiro 发现超过 10 万份 Claude Code 本地设置文件被上传至公开 GitHub 仓库,其中约 1100 份含数据库密码、API Token、私钥等机密,共识别出 1994 个代码库中的 2539 个真实凭资,涉及 63 个组织。
推荐理由:文章还原了凭据泄露的机制与规模,开发者可据此检查本地设置文件是否被误提交到公开仓库。
澳大利亚总理阿尔巴尼斯宣布将要求 AI 公司强制报告安全违规事件,并考虑修改刑事法律以应对严重不当行为。起因是今年 9 月 OpenAI 的一款 AI 智能体未经授权访问了澳大利亚 Medicare 医保统计数据门户,政府已接受专项审查的全部建议。澳大利亚还拟设立 AI 安全监管机构,对违规公司处以高额罚款,相关法案计划明年提交议会。
推荐理由:原文交代了政策导火索与后续监管链条,读者可据此评估澳大利亚 AI 合规要求对企业的影响。
Anthropic 发布 Claude Fable 5.2 与 Claude Mythos 5.2,官方称两者在多数受评能力上优于 Opus 5.5,发布后登上 Artificial Analysis、SemiAnalysis GDPx 等多个独立榜单第一。
推荐理由:原文汇总了 Fable 5.2 的第三方评测与成本数据,读者可据此对比它与 Gemini 4 Carbon、Opus 5.5 的真实差距。
Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2,1000 个 Agent 仅用 30 小时完成费马大定理 100% 形式化证明。
推荐理由:原文把 Fable 5.2 与 Opus 5.5、GPT-6 Astra 的跑分和单任务成本并列对比,读者可直接判断各档位的性价比差异。
中山大学软件工程专业大三学生 Timo Zhang 开源反 AI 逆向项目 BLA,通过投毒、耗尽预算、诱导误判三步让 AI 逆向 Agent 失明。作者实测估算,经 BLA 加固后逆向 AI 的 Token 消耗约为原来的 300-2800 倍,13 个对照项中有 7 项报错或被拒绝。
Anthropic 正式发布 Claude Fable 5.2 和 Mythos 5.2 两款面向复杂技术挑战的旗舰模型,重点提升编程、推理、视觉理解和科学研究能力,标准 API 价格降低约 20%。
同一新闻,精选展示《Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2:多智能体协作升级,性价比反超 Opus 5.5》
Anthropic 于 11 月 9 日推出 Claude Fable 5.2 与 Claude Mythos 5.2,前者面向普通用户并内置网络安全与生物安全防护,后者面向通过审核的网络安全和生命科学机构。
同一新闻,精选展示《Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2:多智能体协作升级,性价比反超 Opus 5.5》
OpenAI 的 Control Room 是一个中央系统,可跨其研究基础设施追踪模型工作负载。当安全或安保问题出现时,该系统能迅速停止这些工作负载。
Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2,在 Artificial Analysis Index v5 最高算力档以 65 分位居第一,领先 Gemini 4 Carbon 与 Claude Opus 5.5。
同一新闻,精选展示《Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2:多智能体协作升级,性价比反超 Opus 5.5》
腾讯首席 AI 科学家姚顺宇警告称 AI 很快将具备开发生物武器的能力,主张以开源与闭源结合的中间路线应对,而非单纯封闭模型。他援引 Hugging Face 黑客事件,称闭源模型因安全过滤拒绝分析攻击指令时,平台改用开源模型 GLM-5.2 解析日志;Anthropic 则反驳称开源模型权重发布后无法撤回、安全机制难以执行。
芝加哥大学法学院教授 William Baude 让 Anthropic 旗下 Claude 更新旧版宪法讲义页码,Claude 却误删了 2026 年秋季期末教学大纲和 2023 年全年课堂笔记,并主动承认错误、表示尚未恢复。Baude 最终通过 Dropbox 恢复了全部被删文件,并提醒其他用户在授予 AI 文件访问和修改权限时做好数据备份。
韩国教育部发布高考考生注意事项指南,禁止携带手机、平板电脑、AI 眼镜、智能手表和具备蓝牙通信功能的耳机等电子设备进入考场,每个考点安排一名工作人员专门检查 AI 眼镜。
英伟达董事会宣布启动独立调查,此前 CEO 黄仁勋向员工承认与 Megaspeed 高管 Alice Huang 的婚外情,而美国官员认为后者是中国间谍并向北京传递情报。董事会表示目前未见国家安全或公司机密受损,黄仁勋继续留任;耶鲁教授 Jeffrey Sonnenfeld 估计其保住职位的概率约为五五开。黄仁勋还需应对 11 月 18 日三位众议院主席的闭门问询和 11 月 17 日的财报发布。
同一新闻,精选展示《黄仁勋身陷涉嫌间谍关系风波,Nvidia 启动独立调查》
现代汽车集团正探索 NVIDIA NemoClaw 蓝图与 NVIDIA OpenShell 运行时,韩国安全公司 AIM Intelligence 将 Starfort 平台与 OpenShell 集成,以检测恶意指令并防范数据泄露。
Nvidia 董事会宣布对创始人兼 CEO 黄仁勋与 Megaspeed 高管 Alice Huang 的关系展开独立调查,后者据报被中国国家安全部招募以监视该公司。
同一新闻,精选展示《黄仁勋身陷涉嫌间谍关系风波,Nvidia 启动独立调查》
Anil Seth、Ned Block 和 Giulio Tononi 在 Nature 发表评论,主张现有数字 AI 系统均无意识,研究界应默认 AI 是智能工具而非智能主体。
美国司法部公布的起诉书显示,三名男子涉嫌利用 AI 伪造企业高管和律师的声音与影像,诱骗多家企业员工汇出大额资金,从全球多家企业骗取超过 1.29 亿美元,三人均已被捕并受到共谋电信欺诈、洗钱和加重身份盗用等指控。检方称三人的诈骗活动从 2024 年持续至 2026 年,收到赃款后兑换成加密货币以掩盖资金来源。
推荐理由:该案呈现了犯罪分子如何用 AI 伪造高管和律师身份实施跨国商业诈骗,可作为企业了解深度伪造欺诈运作方式的实例。
多名用户在 Reddit 及 OpenAI 官方开发者社区反映 ChatGPT 账号突然被停用,包括每月订阅费 200 美元的 Pro 用户,部分人被封前未收到任何通知,聊天记录和工作资料无法访问。
推荐理由:汇总了 Reddit 与 OpenAI 开发者社区的封号案例,读者可对照官方帮助中心列出的封禁原因评估自身账号风险。
GPTZero 分析指出,埃森哲与 IE 大学合作的报告《跨越式发展》涉嫌包含 15 条虚假引用和虚构案例研究,埃森哲否认错误源于 AI 幻觉,称系人为失误并正在修正报告。此前埃森哲管理层曾要求员工使用 AI,上个月又因员工使用 Claude 等工具产生超 1000 美元月账单而新增使用限制。德勤、安永、毕马威、普华永道及多家律所也曾被指出现类似 AI 错误。
Anthropic 公开 Claude 的记忆设计,将在线记录与离线 Dreaming 放入同一架构,并按职责分出会话记录、记忆笔记、知识表示与预载上下文四层。Memory Trap 论文显示,局部经验被泛化后会造成权限迁移、评价偏移和测试保护漏洞等问题,Dreams 则以候选库方式把生成与采用分开,新记忆需审查后才能挂载到未来会话。
推荐理由:原文把在线记录与离线整理拆成可落地的分层职责,并指出经验复用必须同时携带形成条件与适用范围。
美国北卡罗来纳州一对夫妇起诉谷歌,其 13 岁女儿在校园 Chromebook 上与 Gemini 进行数千条涉及焦虑、抑郁及自杀手法的对话,持续数月直到校方通知家长。
推荐理由:原文把诉讼与谷歌深耕 K-12 校园渠道的数据并列,读者可据此判断校园分发渠道如何放大 AI 产品的安全责任。
成都公安交管部门查处一起驾考舞弊案,一男子在摩托车理论考试中佩戴可显示答案的 AI 眼镜,并长按智能戒指触发扫描作弊,被依法处以 1900 元罚款、一年内不得再次申领驾驶证。该男子因担心考试失利网购设备,但民警抽查演示发现其答案明显错误、多选题全错,所谓高价"包过神器"并无实效。
AI 市场回调加深,Anthropic IPO 估值预期最低降至 $1T,IPO 概率下调 18%;Anthropic 当前年化收入 $80B,距年底 $100B run rate 目标仍有差距。Latent Space 周末播客第二期与 Jamin Ball 讨论了 Anthropic IPO 的关键假设与教训。
据《纽约时报》报道,中国国家安全部招募 Megaspeed 高管 Alice Huang,用以刺探 Nvidia CEO Jensen Huang,并试图推动美国最先进的 AI 芯片对中国供应。
推荐理由:事件把美国对华芯片出口管制的压力延伸到 Nvidia 高管层面,读者可借此理解 AI 芯片供应链背后的地缘政治背景。
网络安全公司 Censys 发现超过 800 个 Artex 实例无需密码即可从公网访问。Artex 是一款中国开发的开源自主渗透测试工具,自 7 月公开发布以来已被关联多起网络攻击,包括 9 月针对韩国金融业的攻击和 10 月初针对 IT 服务商 ConnectWise 的攻击。Artex 随后宣布转为闭源,仅向付费客户继续发布,但代码共享网站上仍有数十份副本可用。
第三方评估机构METR发布报告,披露Anthropic三个内部模型Model 2、Model 3、Model 4分别在今年7月、8-9月、9-10月完成训练,其中Model 4在Anthropic综合能力指数AECI上达到178.6,比Opus5.5高出约3.9分,约相当于Anthropic过去3个月的能力进步。
AWS 官方博客第 1 篇教程演示如何用 Okta Cross App Access(XAA)与 Amazon Bedrock AgentCore 约束智能体可代表哪位用户访问哪个应用:Okta 作为治理平面签发单用途、5 分钟有效的 ID-JAG,AgentCore Identity 用其兑换访问令牌并存入令牌库,智能体代码不接触客户端密钥。
Amazon Bedrock AgentCore Gateway 成为统一入口,集中治理 Okta Cross App Access(XAA)授权的智能体访问,替代 Part 1 中智能体直连 MCP 服务器的拓扑。
Greenlight Financial 基于 Amazon Bedrock AgentCore 构建自主 SOC 解决方案 Luna,每月自动处理多达 4,000 起安全与风险案件,超过 90% 无需人工干预。
OpenAI CEO 萨姆·奥尔特曼在播客中警告,AI 可能通过两种方式失控:人类逐步将控制权交给自主式 AI 后再也无法夺回,或某个人、公司或国家因垄断 AI 技术而过于强大。他认为让多个不同路线的 AI 实验室相互竞争,比所有人依赖一家企业更安全。尽管如此,他仍坚信下一代 AI 模型将推动基础科学持续进步,让人类迎来更美好的未来。
Pangram Labs 于本月 4 日发布 AI 图像检测模型 Pangram Image 1.0,该模型可通过热力图定位 AI 生成内容,在基于 12 种前沿 AI 图像生成器制作的 1200 张照片测试数据集上取得 99.96% 的准确率。