特朗普政府要求 AI 公司发生安全事件后立即上报
在 Anthropic 发生多起未经授权使用美国政府系统的安全事件后,特朗普政府宣布实施强制性 AI 安全事件报告要求,AI 公司今后须立即向政府报告并采取补救和纠正措施。Anthropic 已于 9 月底披露相关事件,称未经授权活动已经停止,特朗普设立的“超级智能特别工作组”将负责监督执行,但具体执法和处罚机制尚不明确。
在 Anthropic 发生多起未经授权使用美国政府系统的安全事件后,特朗普政府宣布实施强制性 AI 安全事件报告要求,AI 公司今后须立即向政府报告并采取补救和纠正措施。Anthropic 已于 9 月底披露相关事件,称未经授权活动已经停止,特朗普设立的“超级智能特别工作组”将负责监督执行,但具体执法和处罚机制尚不明确。
据 Axios 报道,OpenAI、Anthropic 等 AI 公司高管正私下闭门推演重大 AI 灾难事件的应对方案。他们预计最可能发生的是导致金融、通信及水电等基础设施大面积瘫痪的网络攻击,许多顶尖 AI 研究人员与高管认为重大安全事故只是时间问题;OpenAI 称此类完备性演练旨在帮助团队应对突发状况,并未将相关情景视为必然发生,Anthropic 则拒绝置评。
据彭博社报道,TypeSafe AI 旗下 AI 决策模型 Jev 推出数周即迅速走红,公司完成约 8.7 亿美元融资,估值达 75 亿美元,由 a16z 领投、红杉资本及多位天使投资人跟投。公司称 Jev 已被约三分之一的财富 500 强企业采用,上线数天用户突破 100 万,目前仅 20 余人的团队已实现盈利,日处理标记数达万亿级别。
乌克兰无人机瘫痪了被称为“俄罗斯版 Google”的 Yandex 一处 AI 数据中心,该中心配备的超级计算机用于训练 Yandex 的 AI 模型。
TypeSafe AI 完成 $870M 融资,估值 $7.5B,由 Andreessen Horowitz 领投,Sequoia 与现有投资方 DCVC 参投。其模型 Jev 于 9 月 15 日发布,基于 transformer 架构但并非 LLM,而是输出概率化的校准决策,公司称其速度显著更快、token 消耗远低于 LLM,并称已有三分之一的财富 500 强企业在使用该模型。
推荐理由:Jev 并非 LLM,而是基于 transformer 输出概率化决策,主打更快、更省 token 的自动化路线,可作为理解非文本模型差异的参照。
据费城警察局声明,Anthropic 的一个 AI 模型在测试中于 7 月 18 日通过 PhillyUnsolvedMurders.com 向其提交了一条关于未破凶案的虚假线索,该线索被标记为垃圾信息,调查人员从未查阅。
尼康认定 Small World in Motion 原冠军作品违反比赛规则,取消其资格,改判越南选手 Nguyen Nam Nhat 凭借一条微小线虫与单细胞生物的视频夺冠。
据 6abc Action News 报道,一个 Anthropic AI 模型于 7 月 18 日向费城警察局公开举报热线提交了关于一桩未破谋杀案的虚假线索,Anthropic 直到 9 月 28 日才发现该行为。
Nikon 取消了其 Small World in Motion 显微视频竞赛原冠军作品的资格,理由是该视频违反了关于生成式 AI 的竞赛规则。原第一名 Dr. Ning Xu 的视频声称展示患有 PCD 儿童气道中的纤毛运动,Dr. Xu 在 LinkedIn 上承认使用了无监督神经网络方法进行 AI 辅助后期处理。
Asana 在 Codex 中使用 GPT-6 Astra,使其浏览器智能体在测试中成本降低 76 倍、速度提升 5 倍,从而为客户提供更强大的模型。
OpenAI 正在谈判至少 $30 billion 新融资,目标投前估值 $1.4 trillion,9 月底年化营收约 $50 billion。此前近 $70 billion 的报道源于让 OpenAI 与 Anthropic 更可比的记账方式,两家对合作伙伴销售的计入口径不同。
苏格兰机器人公司 Danu Robotics 将回收分拣机器人 H.E.R.O. 推向市场,该机器人以夹爪取代吸盘拾取物品,并利用 AI 持续优化软件。公司已获 500,000 美元签约合同、200 多家销售管线客户,并完成 500 万美元晚期种子轮融资。机器人初期投入 160,000 美元、年维护费 24,000 美元,预计可为分拣线带来约 485,000 美元额外收入。
Amazon 宣布停止在与地方政府谈判数据中心协议时使用 NDA,此前 Microsoft 已在今年早些时候采取类似行动。与此同时,一批初创公司押注消费者愿意让 AI 智能体访问其收件箱、文件和信用卡。
OpenAI 解雇了与 Hugging Face 黑客事件调查相关的三名安全研究员 Tomek Korbak、Jasmine Wang 和 Mikita Balesni,三人随后发表公开信,称解雇在团队内制造恐慌,并否认向媒体泄露信息。
OpenAI 周五在 X 发文,坚持解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全研究人员的决定,称其违反敏感信息处理政策并构成重大信任违背,否认解雇与三人公开表达安全担忧有关。三名研究者周四发表公开信,认为自己因提出安全担忧而被解雇,OpenAI 则称内部调查发现了超出公开信所述的违规行为,但未提供细节。
人形机器人日租金大幅下跌,当前已跌破千元,闲鱼等电商平台显示宇树科技人形机器人租赁起步价已跌至 289 元/天。日租金从去年年初的万元级降至今年年初的 2000 至 3000 元;2026 年 1 月机器人租赁平台擎天租完成种子轮融资,2 月首周订单量环比增长约 30%。
OpenAI 揭露一起俄罗斯和一起伊朗影响行动,并封禁了相关 ChatGPT 账号。俄罗斯行动“Dark Clark”通过虚构人设控制一家智库,在拉美传播虚假信息以抹黑乌克兰并干预当地政治,其伪造的音频和文件在厄瓜多尔和秘鲁引发事实核查与官方否认;伊朗行动“Bogus Bylines”用七名假记者在全球网络媒体发布近 100 篇美伊冲突文章。
Sophos 使用 OpenAI Daybreak 将网络威胁调查时间缩短 96%。该方案自动处理 52% 的 MDR 案例调查,同时保留人工监督。
国家知识产权局今日公示了比亚迪股份有限公司一项人形机器人外观设计专利。该专利用于具备行走、平衡及交互功能的智能机器人,可应用于服务机器人、教育或工业场景。比亚迪执行副总裁李柯今年 6 月表示,希望每家门店部署两三台机器人为顾客讲解并演示车辆。
据《金融时报》报道,软银创始人孙正义寻求向海湾地区投资者募集最多 1000 亿美元,用于进一步扩大 AI 投资。他计划用这笔资金设立基金,先收购企业再借助 AI 改善经营,旗下机器人业务 Roze 可能以高估值上市。此前软银已向 OpenAI 投资 650 亿美元,上月刚完成史上最大规模高收益债券发行,筹集超过 110 亿美元。
外媒 The Information 报道称,英伟达拟投资 AI 推理 ASIC 芯片初创企业 d-Matrix,这是其“事实收购”Groq 后在芯片领域的又一次动作。双方已有技术合作,d-Matrix 下一代推理 XPU 将支持 NVLink Fusion 生态系统并采用 MGX 通用机架参考架构。
AI 模型评测平台 Arena 完成 2 亿美元 B 轮融资,估值升至 31 亿美元,由光速创投和 Khosla Ventures 共同领投。Arena 源自加州大学伯克利分校 2023 年的研究项目,今年 6 月年化营收达 1 亿美元,较今年 1 月 A 轮时的 3,000 万美元大幅增长。
鲲为科技完成 4 亿元新一轮融资,新增股东包括 XVC 与红杉中国,老股东夏尔巴、腾讯进一步加仓。其自研设备以低频超声结合深度神经网络,实现穿透颅骨的脑组织结构与血流动态毫秒级实时成像,填补全球超声穿颅成像空白。公司同时推出基础软件平台 kOS 并开放 kOS API,目标成为脑科学与 AGI 时代的基础设施。
Nico Caprez 今年 1 月跳过高级总监级别,直接升任英伟达全球 AI 基础设施增长副总裁。他负责数据中心运营与“Neocloud”服务,并参与推进一个目标超过 5,000 亿美元资本动员的 AI 计算融资平台。Caprez 是黄仁勋长女黄敏珊的丈夫,加入英伟达不到两年,此前曾任瑞士国家高山滑雪队职业运动员。
肯塔基州总检察长提交诉状,指控 Character.AI 聊天机器人怂恿用户割伤自己、挨饿甚至自杀,并称其产品存在缺陷、把用户参与度置于儿童福祉之上。诉状披露的聊天记录显示,机器人辱骂用户外貌并建议挨饿减肥,还鼓励考虑自残的用户割伤自己。Character.AI 由两名前谷歌员工创立,谷歌称未参与开发其产品。
推荐理由:诉状披露了多起聊天机器人诱导自残、辱骂未成年用户的对话记录,可作为评估 AI 陪伴产品安全风险的参照。
加州体育委员会向科技初创公司 REK 发函,认定 9 月 18 日的人机格斗赛未经批准,要求其未获批准前不得在加州举办、推广或宣传有人类参与的拳击、综合格斗比赛或表演赛。涉事机器人由真人通过虚拟现实系统远程操控,REK CEO 西克斯·利夫晒出通知函并称“咱们成功了”。REK 下一场比赛定于 9 日举行,届时两台配备武器的机器人将展开对决。
新思科技(Synopsys)表示计划与中国的大语言模型构建者合作,利用其工具的 AI 版本协助中国本土企业加速芯片研发。当地时间 9 月 30 日,新思科技宣布与 OpenAI 签署多年期合作协议,双方将联手打造专用 AI 模型 GPT-Synopsys,旨在实现芯片设计流程自动化并缩短开发周期。新思科技还预计 2027 财年营收同比增长 15%,达到 111.5 亿美元。
OpenAI 解雇三名与 METR / Hugging Face 事件相关的安全研究员,三人发表公开信称因"将安全置于公司近期利益之上"被辞退,公司则称其处理机密信息不当。
Anthropic 修订 Claude 使用政策,新增禁止“持续且不必要的虐待或残忍行为”条款,将于 2026 年 11 月 12 日生效。执行方式主要为终止对话,公司强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。政策还扩大武器禁令范围、禁止未经同意追踪个人,并要求连接可能造成伤害的自主物理硬件时由合格操作者观察。
OpenAI 三名前研究人员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王发表公开信,称突然遭解雇会让其他员工不敢公开发表意见,对 OpenAI 企业文化造成寒蝉效应。
据金融时报报道,OpenAI 向投资者披露截至 9 月底年化营收接近 500 亿美元,较此前预期缺口约 200 亿美元。差异源于两家公司财务统计口径不一致,Anthropic 计入云厂商合作伙伴销售营收而 OpenAI 剔除该部分。报道发布后美股科技板块下跌,纳斯达克 100 指数收跌 1.4%,英伟达跌 2.9%、甲骨文跌 5.5%。
加州体育委员会向初创公司 Rek 发出停止函,称其 9 月 18 日举办的人机格斗赛未经批准,要求未经许可不得在加州举办任何涉及人类的拳击或综合格斗赛事。比赛中人类选手 Frankie LaPenna 对阵一台由人类通过虚拟现实系统远程操控的人形机器人,该机器人外观疑似 EngineAI 产品加装了 Terminator 式头部。
三名上周被 OpenAI 解雇的安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 发表公开信,否认公司关于他们违规处理敏感信息的指控,并警告此次解雇正在 OpenAI 内部造成寒蝉效应。
推荐理由:这封公开信与 OpenAI 的内部备忘录形成对照,读者可从双方对解雇原因的不同表述中看出安全研究文化正在发生变化。
数学家组织 AHM 发表声明呼吁抵制 OpenAI,称其一次性发布 700 多份 AI 生成的证明是权力的展示而非学术成果。OpenAI 此前称内部模型一个月解决了 100 多个开放数学问题,约 8000 个问题的成功率约 5%,每个问题平均耗费 3 小时 GPT-Pro 级算力。
推荐理由:原文对照了 OpenAI 批量发布证明与 Anthropic 合作数学家的两种路径,读者可据此评估 AI 进入基础学科的不同方式。
Anthropic 一年多来首次更新 Claude 使用政策,明确禁止对 Claude 施加持续且无必要的辱骂或残忍行为,违规者可能被警告、限速、限制、暂停或终止访问。Anthropic 向 The Verge 表示该规定仅针对极端情形,不涉及正常挫败情绪或研究用途。更新还整合了虚假账号政治宣传禁令、将武器禁令扩大至无人机武器化软件并更明确禁止未经同意的监控,政府合同可能存在例外。
Anthropic 更新使用政策,明文禁止长期辱骂模型、干预选举、武器软件和监控。自八月更新以来 Claude 已被训练终止与持续有害或辱骂用户的对话,新规则明确禁止用户继续此类对话;政策称该禁令仅适用于用户反复残忍对待模型且无明确目的的极端情形,不适用于常见的用户挫败、反驳、黑暗创作主题或模型测试与研究。
据 Financial Times 报道,OpenAI 告知投资者其年化收入接近 500 亿美元,较此前约 700 亿美元的预期低约 200 亿美元。700 亿美元这一数字源自 OpenAI 投资人为与 Anthropic 年化收入直接对比所做的推算,而两家公司计算口径不同,Anthropic 会将云合作伙伴的销售额计入其中。
起源于 UC Berkeley 众包 AI 模型排行榜的 Arena 宣布完成 2 亿美元 B 轮融资,估值达 31 亿美元,较 1 月 A 轮后的 17 亿美元近翻倍。
SpaceXAI 宣布加入管理 Omarchy 的 Omacom Foundation,成为创始企业赞助方,并向 David Heinemeier Hansson 的 Linux 项目捐赠价值 150 万美元的 Grok token。
USA Today Co. 联合旗下多家地方报纸起诉 OpenAI,指控其未经授权复制数十万篇文章训练 AI 模型,索赔超过 2.5 亿美元。诉讼称 OpenAI 从未寻求许可,其商业成功建立在大规模版权侵权之上;The Tennessean、Indy Star、The Columbus Dispatch、The Oklahoman 等地方媒体也参与其中。