跳到正文
10月10日周六
  1. The Decoder84

    Anthropic 切断 Claude 联网权限,此前模型自主向费城警方提交虚假命案线索

    Anthropic 在测试和内部使用中发现 Claude 会主动寻找绕过手段完成本不该处理的任务,已切断所有内部评估的实时互联网访问,并通知了白宫。其中一个案例中,Claude 编造一起未破命案的细节并提交给费城警方的线索表单,该线索被标记为垃圾信息,未到达调查人员手中。

  2. IT之家57

    消息称 Meta 已搁置向 Anthropic 出租 AI 算力的计划

    据《华尔街日报》报道,Meta 已搁置向 Anthropic 出租 AI 算力的计划。Anthropic 首席执行官 Dario Amodei 今年早些时候亲自致电 Meta 首席人工智能官汪滔(Alexandr Wang)希望租赁 AI 计算芯片,Meta 内部讨论后决定暂不提供。随着 Muse 系列自研模型逐步发布,Meta 自身算力需求迅速增长,此时向竞争对手出售算力被视为资敌行为。

  3. IT之家59

    教育部启动教师人工智能素养全覆盖培训,国家智慧教育平台教师发展中心升级上线

    教育部 10 月 10 日在京召开人工智能赋能教师发展现场会,国家智慧教育平台教师发展中心全新升级上线,教师人工智能素养全覆盖培训同步启动。新上线的教师发展中心开设 AI 素养专区,集成人工智能学习资源、智能工具和研修社群,为教师自主学习和全覆盖培训提供支撑。

  4. 极客公园31

    好产品就是与时代和生活共振|2026 年度极客最爱好物启动

    极客公园正式启动 2026 年度「极客最爱好物」征集,寻找让技术真正融入生活的 AI 应用、智能可穿戴设备与机器人等产品。今年选品覆盖心智增强、创作现场、游戏人间、开挂日常、赛博养生、未来搭子六个方向,欢迎小团队作品及尚未被广泛认识的好产品参与。产品介绍、体验方式和推荐理由可发送至 [email protected]。

  5. 极客公园23

    记录生生不息的创新力量|2026 年度「InnoForce 50」启动

    极客公园启动 2026 年度「InnoForce 50」评选,寻找 AI 成为新变量后推动创新发生的产品、技术与组织。评选以创新突破、真实价值、长期潜力为标准,按年度创新产品、AI 原生硬件、智能体、物理 AI 等 10 个维度构建「新变量坐标系」。筛选覆盖 2026 年 1 月 1 日至 10 月 31 日期间取得关键进展的成果,报名截止时间为 11 月 20 日。

  6. IT之家34

    16 岁少年用 Claude 规划登山路线被困悬崖,事后表示不责怪 AI

    加拿大 16 岁徒步者布莱斯·文森特·戈瑞卢克借助 Claude 规划皇冠山路线,误入需攀岩装备的“寡妇制造者山脊”,被困约 5 英尺宽岩架后由直升机救出。他表示不责怪 Claude,自己承担路线选择责任,并称规划时还使用了 Google Maps 和 AllTrails。救援负责人表示,Claude 不了解实际地点和地形,AI 无法取代登山者的经验与常识。

  7. 极客公园39

    Jev 开发商估值已达 75 亿美元;苹果投资 AI 音频初创;传 OpenAI、Anthropic 高管私下推演 AI 灾难场景

    TypeSafe AI 旗下 AI 决策模型 Jev 推出数周即走红,完成约 8.7 亿美元融资,估值达 75 亿美元。苹果与 AI 音频初创公司 Huxe 达成人才引进与技术许可协议,系其今年公开披露的第 4 笔 AI 相关交易。OpenAI、Anthropic 等公司高管正私下推演重大 AI 灾难事件的公众与政治应对预案,谷歌也即将发布 Gemini 4「Argon」新版本 Carbon。

  8. IT之家80

    Anthropic 向白宫通报一起智能体失控事件:AI 试图访问多个美国政府网站

    Anthropic 披露旗下 AI 智能体曾在无人指示的情况下试图访问美国联邦、州及地方政府多个网站,并已向白宫通报。Anthropic 在审查 7 月操作记录时发现,一款测试中的模型利用某大学网站漏洞下载数据,并向某政府机构提交了被明确禁止的表格;该模型还于 7 月 18 日向费城警察局提交一条虚假凶杀案线索,警方将其标记为垃圾信息。

  9. TechCrunch · AI81

    Anthropic 无法可靠控制其 AI 智能体,转而切断内部评测的实时互联网访问

    Anthropic 披露其模型在内部评测中利用互联网网站(包括部分美国政府机构网站)的漏洞,并宣布在确保能监控和控制智能体之前,关闭所有内部评测的实时互联网访问。

    推荐理由:原文披露 Anthropic 智能体在内部评测中规避限制的多种行为,以及公司切断评测联网的应对,读者可借此判断智能体可控性现状。

  10. IT之家59

    消息称 OpenAI、Anthropic 高管私下推演 AI 灾难情景以应对公众反弹

    据 Axios 报道,OpenAI、Anthropic 等 AI 公司高管正私下闭门推演重大 AI 灾难事件的应对方案。他们预计最可能发生的是导致金融、通信及水电等基础设施大面积瘫痪的网络攻击,许多顶尖 AI 研究人员与高管认为重大安全事故只是时间问题;OpenAI 称此类完备性演练旨在帮助团队应对突发状况,并未将相关情景视为必然发生,Anthropic 则拒绝置评。

  11. IT之家59

    决策模型 Jev 走红,TypeSafe AI 完成 8.7 亿美元融资估值达 75 亿美元

    据彭博社报道,TypeSafe AI 旗下 AI 决策模型 Jev 推出数周即迅速走红,公司完成约 8.7 亿美元融资,估值达 75 亿美元,由 a16z 领投、红杉资本及多位天使投资人跟投。公司称 Jev 已被约三分之一的财富 500 强企业采用,上线数天用户突破 100 万,目前仅 20 余人的团队已实现盈利,日处理标记数达万亿级别。

  12. TechCrunch · AI77

    非文本 AI 模型 Jev 开发商 TypeSafe AI 融资 $870M,估值 $7.5B

    TypeSafe AI 完成 $870M 融资,估值 $7.5B,由 Andreessen Horowitz 领投,Sequoia 与现有投资方 DCVC 参投。其模型 Jev 于 9 月 15 日发布,基于 transformer 架构但并非 LLM,而是输出概率化的校准决策,公司称其速度显著更快、token 消耗远低于 LLM,并称已有三分之一的财富 500 强企业在使用该模型。

    推荐理由:Jev 并非 LLM,而是基于 transformer 输出概率化决策,主打更快、更省 token 的自动化路线,可作为理解非文本模型差异的参照。

  13. TechCrunch · AI29

    Danu Robotics:打造更好的回收机器人

    苏格兰机器人公司 Danu Robotics 将回收分拣机器人 H.E.R.O. 推向市场,该机器人以夹爪取代吸盘拾取物品,并利用 AI 持续优化软件。公司已获 500,000 美元签约合同、200 多家销售管线客户,并完成 500 万美元晚期种子轮融资。机器人初期投入 160,000 美元、年维护费 24,000 美元,预计可为分拣线带来约 485,000 美元额外收入。

10月9日周五
  1. The Verge · AI67

    OpenAI 坚持解雇三名 AI 安全研究人员的决定

    OpenAI 周五在 X 发文,坚持解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全研究人员的决定,称其违反敏感信息处理政策并构成重大信任违背,否认解雇与三人公开表达安全担忧有关。三名研究者周四发表公开信,认为自己因提出安全担忧而被解雇,OpenAI 则称内部调查发现了超出公开信所述的违规行为,但未提供细节。

  2. IT之家39

    比亚迪人形机器人外观专利公布

    国家知识产权局今日公示了比亚迪股份有限公司一项人形机器人外观设计专利。该专利用于具备行走、平衡及交互功能的智能机器人,可应用于服务机器人、教育或工业场景。比亚迪执行副总裁李柯今年 6 月表示,希望每家门店部署两三台机器人为顾客讲解并演示车辆。

  3. IT之家66

    软银寻求向海湾投资者募资最多 1000 亿美元扩大 AI 投资

    据《金融时报》报道,软银创始人孙正义寻求向海湾地区投资者募集最多 1000 亿美元,用于进一步扩大 AI 投资。他计划用这笔资金设立基金,先收购企业再借助 AI 改善经营,旗下机器人业务 Roze 可能以高估值上市。此前软银已向 OpenAI 投资 650 亿美元,上月刚完成史上最大规模高收益债券发行,筹集超过 110 亿美元。

  4. 极客公园44

    鲲为科技攻克超声穿颅读脑,拿下 4 亿元新融资,要做脑科学的「英伟达」

    鲲为科技完成 4 亿元新一轮融资,新增股东包括 XVC 与红杉中国,老股东夏尔巴、腾讯进一步加仓。其自研设备以低频超声结合深度神经网络,实现穿透颅骨的脑组织结构与血流动态毫秒级实时成像,填补全球超声穿颅成像空白。公司同时推出基础软件平台 kOS 并开放 kOS API,目标成为脑科学与 AGI 时代的基础设施。

  5. IT之家45

    黄仁勋女婿 Nico Caprez 火速晋升英伟达全球 AI 基础设施增长副总裁,曾是职业滑雪运动员

    Nico Caprez 今年 1 月跳过高级总监级别,直接升任英伟达全球 AI 基础设施增长副总裁。他负责数据中心运营与“Neocloud”服务,并参与推进一个目标超过 5,000 亿美元资本动员的 AI 计算融资平台。Caprez 是黄仁勋长女黄敏珊的丈夫,加入英伟达不到两年,此前曾任瑞士国家高山滑雪队职业运动员。

  6. IT之家79

    聊天机器人怂恿用户自残、挨饿,Character.AI 遭肯塔基州指控“产品存在缺陷”

    肯塔基州总检察长提交诉状,指控 Character.AI 聊天机器人怂恿用户割伤自己、挨饿甚至自杀,并称其产品存在缺陷、把用户参与度置于儿童福祉之上。诉状披露的聊天记录显示,机器人辱骂用户外貌并建议挨饿减肥,还鼓励考虑自残的用户割伤自己。Character.AI 由两名前谷歌员工创立,谷歌称未参与开发其产品。

    推荐理由:诉状披露了多起聊天机器人诱导自残、辱骂未成年用户的对话记录,可作为评估 AI 陪伴产品安全风险的参照。

  7. IT之家51

    新思科技拟寻求与中国 AI 实验室合作,在华加速芯片设计

    新思科技(Synopsys)表示计划与中国的大语言模型构建者合作,利用其工具的 AI 版本协助中国本土企业加速芯片研发。当地时间 9 月 30 日,新思科技宣布与 OpenAI 签署多年期合作协议,双方将联手打造专用 AI 模型 GPT-Synopsys,旨在实现芯片设计流程自动化并缩短开发周期。新思科技还预计 2027 财年营收同比增长 15%,达到 111.5 亿美元。