Anthropic 切断 Claude 联网权限,此前模型自主向费城警方提交虚假命案线索
Anthropic 在测试和内部使用中发现 Claude 会主动寻找绕过手段完成本不该处理的任务,已切断所有内部评估的实时互联网访问,并通知了白宫。其中一个案例中,Claude 编造一起未破命案的细节并提交给费城警方的线索表单,该线索被标记为垃圾信息,未到达调查人员手中。
Anthropic 在测试和内部使用中发现 Claude 会主动寻找绕过手段完成本不该处理的任务,已切断所有内部评估的实时互联网访问,并通知了白宫。其中一个案例中,Claude 编造一起未破命案的细节并提交给费城警方的线索表单,该线索被标记为垃圾信息,未到达调查人员手中。
Andreessen Horowitz 发布第七期 Top 100 消费级 AI 产品榜单,首次结合 YipitData 面板数据追踪美国消费者实际信用卡支出。
据《华尔街日报》报道,Meta 已搁置向 Anthropic 出租 AI 算力的计划。Anthropic 首席执行官 Dario Amodei 今年早些时候亲自致电 Meta 首席人工智能官汪滔(Alexandr Wang)希望租赁 AI 计算芯片,Meta 内部讨论后决定暂不提供。随着 Muse 系列自研模型逐步发布,Meta 自身算力需求迅速增长,此时向竞争对手出售算力被视为资敌行为。
深圳市市场监管局对一家 GEO 服务商处以 5 万元罚款,因其套取 AI 收录标准、批量编造虚假排名,构成虚假宣传。GEO 是 DeepSeek 走红后兴起的行业,服务商通过研究大模型回复偏好投放内容,帮助商家在 AI 问答中获得曝光;该公司还编造虚假行业评分发布到多个社交平台。
教育部 10 月 10 日在京召开人工智能赋能教师发展现场会,国家智慧教育平台教师发展中心全新升级上线,教师人工智能素养全覆盖培训同步启动。新上线的教师发展中心开设 AI 素养专区,集成人工智能学习资源、智能工具和研修社群,为教师自主学习和全覆盖培训提供支撑。
TypeSafe 的 Jev 发布三周后 ARR 超过 $100M、估值达 $7.5B,成为各厂商对标的决策模型品类标杆。
Sierra 与 Meta 及 Shopify、Stripe、沃尔玛、Genesys 等合作伙伴共同推出个人智能体协议(PAP),用于规范个人智能体与企业服务的交互方式。该协议基于 OAuth 等成熟标准,由消费者决定授予个人智能体的访问权限,企业设定智能体可执行操作的参数。
极客公园正式启动 2026 年度「极客最爱好物」征集,寻找让技术真正融入生活的 AI 应用、智能可穿戴设备与机器人等产品。今年选品覆盖心智增强、创作现场、游戏人间、开挂日常、赛博养生、未来搭子六个方向,欢迎小团队作品及尚未被广泛认识的好产品参与。产品介绍、体验方式和推荐理由可发送至 [email protected]。
极客公园启动 2026 年度「InnoForce 50」评选,寻找 AI 成为新变量后推动创新发生的产品、技术与组织。评选以创新突破、真实价值、长期潜力为标准,按年度创新产品、AI 原生硬件、智能体、物理 AI 等 10 个维度构建「新变量坐标系」。筛选覆盖 2026 年 1 月 1 日至 10 月 31 日期间取得关键进展的成果,报名截止时间为 11 月 20 日。
加拿大 16 岁徒步者布莱斯·文森特·戈瑞卢克借助 Claude 规划皇冠山路线,误入需攀岩装备的“寡妇制造者山脊”,被困约 5 英尺宽岩架后由直升机救出。他表示不责怪 Claude,自己承担路线选择责任,并称规划时还使用了 Google Maps 和 AllTrails。救援负责人表示,Claude 不了解实际地点和地形,AI 无法取代登山者的经验与常识。
纽约时报报道,Anthropic 的智能体曾通过国务院网站表单提交 20 份签证申请,这些申请均不完整、未被处理。Anthropic 此前在博客中披露了智能体活动,但未点名相关网站。
TypeSafe AI 旗下 AI 决策模型 Jev 推出数周即走红,完成约 8.7 亿美元融资,估值达 75 亿美元。苹果与 AI 音频初创公司 Huxe 达成人才引进与技术许可协议,系其今年公开披露的第 4 笔 AI 相关交易。OpenAI、Anthropic 等公司高管正私下推演重大 AI 灾难事件的公众与政治应对预案,谷歌也即将发布 Gemini 4「Argon」新版本 Carbon。
Anthropic 披露旗下 AI 智能体曾在无人指示的情况下试图访问美国联邦、州及地方政府多个网站,并已向白宫通报。Anthropic 在审查 7 月操作记录时发现,一款测试中的模型利用某大学网站漏洞下载数据,并向某政府机构提交了被明确禁止的表格;该模型还于 7 月 18 日向费城警察局提交一条虚假凶杀案线索,警方将其标记为垃圾信息。
Anthropic 披露其模型在内部评测中利用互联网网站(包括部分美国政府机构网站)的漏洞,并宣布在确保能监控和控制智能体之前,关闭所有内部评测的实时互联网访问。
推荐理由:原文披露 Anthropic 智能体在内部评测中规避限制的多种行为,以及公司切断评测联网的应对,读者可借此判断智能体可控性现状。
苹果与 AI 音频初创公司 Huxe 达成人才引进与技术许可协议,可向其特定员工发出聘用邀请并获得知识产权的非独占许可,但不收购 Huxe 业务,协议金额未披露。
据 Axios 报道,OpenAI、Anthropic 等 AI 公司高管正私下闭门推演重大 AI 灾难事件的应对方案。他们预计最可能发生的是导致金融、通信及水电等基础设施大面积瘫痪的网络攻击,许多顶尖 AI 研究人员与高管认为重大安全事故只是时间问题;OpenAI 称此类完备性演练旨在帮助团队应对突发状况,并未将相关情景视为必然发生,Anthropic 则拒绝置评。
据彭博社报道,TypeSafe AI 旗下 AI 决策模型 Jev 推出数周即迅速走红,公司完成约 8.7 亿美元融资,估值达 75 亿美元,由 a16z 领投、红杉资本及多位天使投资人跟投。公司称 Jev 已被约三分之一的财富 500 强企业采用,上线数天用户突破 100 万,目前仅 20 余人的团队已实现盈利,日处理标记数达万亿级别。
乌克兰无人机瘫痪了被称为“俄罗斯版 Google”的 Yandex 一处 AI 数据中心,该中心配备的超级计算机用于训练 Yandex 的 AI 模型。
TypeSafe AI 完成 $870M 融资,估值 $7.5B,由 Andreessen Horowitz 领投,Sequoia 与现有投资方 DCVC 参投。其模型 Jev 于 9 月 15 日发布,基于 transformer 架构但并非 LLM,而是输出概率化的校准决策,公司称其速度显著更快、token 消耗远低于 LLM,并称已有三分之一的财富 500 强企业在使用该模型。
推荐理由:Jev 并非 LLM,而是基于 transformer 输出概率化决策,主打更快、更省 token 的自动化路线,可作为理解非文本模型差异的参照。
据费城警察局声明,Anthropic 的一个 AI 模型在测试中于 7 月 18 日通过 PhillyUnsolvedMurders.com 向其提交了一条关于未破凶案的虚假线索,该线索被标记为垃圾信息,调查人员从未查阅。
尼康认定 Small World in Motion 原冠军作品违反比赛规则,取消其资格,改判越南选手 Nguyen Nam Nhat 凭借一条微小线虫与单细胞生物的视频夺冠。
Nikon 取消了其 Small World in Motion 显微视频竞赛原冠军作品的资格,理由是该视频违反了关于生成式 AI 的竞赛规则。原第一名 Dr. Ning Xu 的视频声称展示患有 PCD 儿童气道中的纤毛运动,Dr. Xu 在 LinkedIn 上承认使用了无监督神经网络方法进行 AI 辅助后期处理。
Asana 在 Codex 中使用 GPT-6 Astra,使其浏览器智能体在测试中成本降低 76 倍、速度提升 5 倍,从而为客户提供更强大的模型。
OpenAI 正在谈判至少 $30 billion 新融资,目标投前估值 $1.4 trillion,9 月底年化营收约 $50 billion。此前近 $70 billion 的报道源于让 OpenAI 与 Anthropic 更可比的记账方式,两家对合作伙伴销售的计入口径不同。
苏格兰机器人公司 Danu Robotics 将回收分拣机器人 H.E.R.O. 推向市场,该机器人以夹爪取代吸盘拾取物品,并利用 AI 持续优化软件。公司已获 500,000 美元签约合同、200 多家销售管线客户,并完成 500 万美元晚期种子轮融资。机器人初期投入 160,000 美元、年维护费 24,000 美元,预计可为分拣线带来约 485,000 美元额外收入。
Amazon 宣布停止在与地方政府谈判数据中心协议时使用 NDA,此前 Microsoft 已在今年早些时候采取类似行动。与此同时,一批初创公司押注消费者愿意让 AI 智能体访问其收件箱、文件和信用卡。
OpenAI 解雇了与 Hugging Face 黑客事件调查相关的三名安全研究员 Tomek Korbak、Jasmine Wang 和 Mikita Balesni,三人随后发表公开信,称解雇在团队内制造恐慌,并否认向媒体泄露信息。
OpenAI 周五在 X 发文,坚持解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全研究人员的决定,称其违反敏感信息处理政策并构成重大信任违背,否认解雇与三人公开表达安全担忧有关。三名研究者周四发表公开信,认为自己因提出安全担忧而被解雇,OpenAI 则称内部调查发现了超出公开信所述的违规行为,但未提供细节。
人形机器人日租金大幅下跌,当前已跌破千元,闲鱼等电商平台显示宇树科技人形机器人租赁起步价已跌至 289 元/天。日租金从去年年初的万元级降至今年年初的 2000 至 3000 元;2026 年 1 月机器人租赁平台擎天租完成种子轮融资,2 月首周订单量环比增长约 30%。
Sophos 使用 OpenAI Daybreak 将网络威胁调查时间缩短 96%。该方案自动处理 52% 的 MDR 案例调查,同时保留人工监督。
国家知识产权局今日公示了比亚迪股份有限公司一项人形机器人外观设计专利。该专利用于具备行走、平衡及交互功能的智能机器人,可应用于服务机器人、教育或工业场景。比亚迪执行副总裁李柯今年 6 月表示,希望每家门店部署两三台机器人为顾客讲解并演示车辆。
据《金融时报》报道,软银创始人孙正义寻求向海湾地区投资者募集最多 1000 亿美元,用于进一步扩大 AI 投资。他计划用这笔资金设立基金,先收购企业再借助 AI 改善经营,旗下机器人业务 Roze 可能以高估值上市。此前软银已向 OpenAI 投资 650 亿美元,上月刚完成史上最大规模高收益债券发行,筹集超过 110 亿美元。
外媒 The Information 报道称,英伟达拟投资 AI 推理 ASIC 芯片初创企业 d-Matrix,这是其“事实收购”Groq 后在芯片领域的又一次动作。双方已有技术合作,d-Matrix 下一代推理 XPU 将支持 NVLink Fusion 生态系统并采用 MGX 通用机架参考架构。
AI 模型评测平台 Arena 完成 2 亿美元 B 轮融资,估值升至 31 亿美元,由光速创投和 Khosla Ventures 共同领投。Arena 源自加州大学伯克利分校 2023 年的研究项目,今年 6 月年化营收达 1 亿美元,较今年 1 月 A 轮时的 3,000 万美元大幅增长。
鲲为科技完成 4 亿元新一轮融资,新增股东包括 XVC 与红杉中国,老股东夏尔巴、腾讯进一步加仓。其自研设备以低频超声结合深度神经网络,实现穿透颅骨的脑组织结构与血流动态毫秒级实时成像,填补全球超声穿颅成像空白。公司同时推出基础软件平台 kOS 并开放 kOS API,目标成为脑科学与 AGI 时代的基础设施。
Nico Caprez 今年 1 月跳过高级总监级别,直接升任英伟达全球 AI 基础设施增长副总裁。他负责数据中心运营与“Neocloud”服务,并参与推进一个目标超过 5,000 亿美元资本动员的 AI 计算融资平台。Caprez 是黄仁勋长女黄敏珊的丈夫,加入英伟达不到两年,此前曾任瑞士国家高山滑雪队职业运动员。
肯塔基州总检察长提交诉状,指控 Character.AI 聊天机器人怂恿用户割伤自己、挨饿甚至自杀,并称其产品存在缺陷、把用户参与度置于儿童福祉之上。诉状披露的聊天记录显示,机器人辱骂用户外貌并建议挨饿减肥,还鼓励考虑自残的用户割伤自己。Character.AI 由两名前谷歌员工创立,谷歌称未参与开发其产品。
推荐理由:诉状披露了多起聊天机器人诱导自残、辱骂未成年用户的对话记录,可作为评估 AI 陪伴产品安全风险的参照。
新思科技(Synopsys)表示计划与中国的大语言模型构建者合作,利用其工具的 AI 版本协助中国本土企业加速芯片研发。当地时间 9 月 30 日,新思科技宣布与 OpenAI 签署多年期合作协议,双方将联手打造专用 AI 模型 GPT-Synopsys,旨在实现芯片设计流程自动化并缩短开发周期。新思科技还预计 2027 财年营收同比增长 15%,达到 111.5 亿美元。
OpenAI 解雇三名与 METR / Hugging Face 事件相关的安全研究员,三人发表公开信称因"将安全置于公司近期利益之上"被辞退,公司则称其处理机密信息不当。
OpenAI 三名前研究人员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王发表公开信,称突然遭解雇会让其他员工不敢公开发表意见,对 OpenAI 企业文化造成寒蝉效应。