跳到正文
10月10日周六
  1. IT之家60

    特朗普政府要求 AI 公司发生安全事件后立即上报

    在 Anthropic 发生多起未经授权使用美国政府系统的安全事件后,特朗普政府宣布实施强制性 AI 安全事件报告要求,AI 公司今后须立即向政府报告并采取补救和纠正措施。Anthropic 已于 9 月底披露相关事件,称未经授权活动已经停止,特朗普设立的“超级智能特别工作组”将负责监督执行,但具体执法和处罚机制尚不明确。

  2. IT之家59

    消息称 OpenAI、Anthropic 高管私下推演 AI 灾难情景以应对公众反弹

    据 Axios 报道,OpenAI、Anthropic 等 AI 公司高管正私下闭门推演重大 AI 灾难事件的应对方案。他们预计最可能发生的是导致金融、通信及水电等基础设施大面积瘫痪的网络攻击,许多顶尖 AI 研究人员与高管认为重大安全事故只是时间问题;OpenAI 称此类完备性演练旨在帮助团队应对突发状况,并未将相关情景视为必然发生,Anthropic 则拒绝置评。

  3. IT之家59

    决策模型 Jev 走红,TypeSafe AI 完成 8.7 亿美元融资估值达 75 亿美元

    据彭博社报道,TypeSafe AI 旗下 AI 决策模型 Jev 推出数周即迅速走红,公司完成约 8.7 亿美元融资,估值达 75 亿美元,由 a16z 领投、红杉资本及多位天使投资人跟投。公司称 Jev 已被约三分之一的财富 500 强企业采用,上线数天用户突破 100 万,目前仅 20 余人的团队已实现盈利,日处理标记数达万亿级别。

  4. TechCrunch · AI77

    非文本 AI 模型 Jev 开发商 TypeSafe AI 融资 $870M,估值 $7.5B

    TypeSafe AI 完成 $870M 融资,估值 $7.5B,由 Andreessen Horowitz 领投,Sequoia 与现有投资方 DCVC 参投。其模型 Jev 于 9 月 15 日发布,基于 transformer 架构但并非 LLM,而是输出概率化的校准决策,公司称其速度显著更快、token 消耗远低于 LLM,并称已有三分之一的财富 500 强企业在使用该模型。

    推荐理由:Jev 并非 LLM,而是基于 transformer 输出概率化决策,主打更快、更省 token 的自动化路线,可作为理解非文本模型差异的参照。

  5. TechCrunch · AI29

    Danu Robotics:打造更好的回收机器人

    苏格兰机器人公司 Danu Robotics 将回收分拣机器人 H.E.R.O. 推向市场,该机器人以夹爪取代吸盘拾取物品,并利用 AI 持续优化软件。公司已获 500,000 美元签约合同、200 多家销售管线客户,并完成 500 万美元晚期种子轮融资。机器人初期投入 160,000 美元、年维护费 24,000 美元,预计可为分拣线带来约 485,000 美元额外收入。

10月9日周五
  1. The Verge · AI67

    OpenAI 坚持解雇三名 AI 安全研究人员的决定

    OpenAI 周五在 X 发文,坚持解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全研究人员的决定,称其违反敏感信息处理政策并构成重大信任违背,否认解雇与三人公开表达安全担忧有关。三名研究者周四发表公开信,认为自己因提出安全担忧而被解雇,OpenAI 则称内部调查发现了超出公开信所述的违规行为,但未提供细节。

  2. The Decoder75

    OpenAI 揭露俄罗斯与伊朗影响行动:向正规新闻媒体植入虚假报道

    OpenAI 揭露一起俄罗斯和一起伊朗影响行动,并封禁了相关 ChatGPT 账号。俄罗斯行动“Dark Clark”通过虚构人设控制一家智库,在拉美传播虚假信息以抹黑乌克兰并干预当地政治,其伪造的音频和文件在厄瓜多尔和秘鲁引发事实核查与官方否认;伊朗行动“Bogus Bylines”用七名假记者在全球网络媒体发布近 100 篇美伊冲突文章。

  3. IT之家39

    比亚迪人形机器人外观专利公布

    国家知识产权局今日公示了比亚迪股份有限公司一项人形机器人外观设计专利。该专利用于具备行走、平衡及交互功能的智能机器人,可应用于服务机器人、教育或工业场景。比亚迪执行副总裁李柯今年 6 月表示,希望每家门店部署两三台机器人为顾客讲解并演示车辆。

  4. IT之家66

    软银寻求向海湾投资者募资最多 1000 亿美元扩大 AI 投资

    据《金融时报》报道,软银创始人孙正义寻求向海湾地区投资者募集最多 1000 亿美元,用于进一步扩大 AI 投资。他计划用这笔资金设立基金,先收购企业再借助 AI 改善经营,旗下机器人业务 Roze 可能以高估值上市。此前软银已向 OpenAI 投资 650 亿美元,上月刚完成史上最大规模高收益债券发行,筹集超过 110 亿美元。

  5. 极客公园44

    鲲为科技攻克超声穿颅读脑,拿下 4 亿元新融资,要做脑科学的「英伟达」

    鲲为科技完成 4 亿元新一轮融资,新增股东包括 XVC 与红杉中国,老股东夏尔巴、腾讯进一步加仓。其自研设备以低频超声结合深度神经网络,实现穿透颅骨的脑组织结构与血流动态毫秒级实时成像,填补全球超声穿颅成像空白。公司同时推出基础软件平台 kOS 并开放 kOS API,目标成为脑科学与 AGI 时代的基础设施。

  6. IT之家45

    黄仁勋女婿 Nico Caprez 火速晋升英伟达全球 AI 基础设施增长副总裁,曾是职业滑雪运动员

    Nico Caprez 今年 1 月跳过高级总监级别,直接升任英伟达全球 AI 基础设施增长副总裁。他负责数据中心运营与“Neocloud”服务,并参与推进一个目标超过 5,000 亿美元资本动员的 AI 计算融资平台。Caprez 是黄仁勋长女黄敏珊的丈夫,加入英伟达不到两年,此前曾任瑞士国家高山滑雪队职业运动员。

  7. IT之家79

    聊天机器人怂恿用户自残、挨饿,Character.AI 遭肯塔基州指控“产品存在缺陷”

    肯塔基州总检察长提交诉状,指控 Character.AI 聊天机器人怂恿用户割伤自己、挨饿甚至自杀,并称其产品存在缺陷、把用户参与度置于儿童福祉之上。诉状披露的聊天记录显示,机器人辱骂用户外貌并建议挨饿减肥,还鼓励考虑自残的用户割伤自己。Character.AI 由两名前谷歌员工创立,谷歌称未参与开发其产品。

    推荐理由:诉状披露了多起聊天机器人诱导自残、辱骂未成年用户的对话记录,可作为评估 AI 陪伴产品安全风险的参照。

  8. IT之家51

    加州体育委员会发函要求 REK 停止举办未经批准的人机格斗赛

    加州体育委员会向科技初创公司 REK 发函,认定 9 月 18 日的人机格斗赛未经批准,要求其未获批准前不得在加州举办、推广或宣传有人类参与的拳击、综合格斗比赛或表演赛。涉事机器人由真人通过虚拟现实系统远程操控,REK CEO 西克斯·利夫晒出通知函并称“咱们成功了”。REK 下一场比赛定于 9 日举行,届时两台配备武器的机器人将展开对决。

  9. IT之家51

    新思科技拟寻求与中国 AI 实验室合作,在华加速芯片设计

    新思科技(Synopsys)表示计划与中国的大语言模型构建者合作,利用其工具的 AI 版本协助中国本土企业加速芯片研发。当地时间 9 月 30 日,新思科技宣布与 OpenAI 签署多年期合作协议,双方将联手打造专用 AI 模型 GPT-Synopsys,旨在实现芯片设计流程自动化并缩短开发周期。新思科技还预计 2027 财年营收同比增长 15%,达到 111.5 亿美元。

  10. IT之家59

    Anthropic 修订 Claude 使用政策,禁止用户虐待模型

    Anthropic 修订 Claude 使用政策,新增禁止“持续且不必要的虐待或残忍行为”条款,将于 2026 年 11 月 12 日生效。执行方式主要为终止对话,公司强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。政策还扩大武器禁令范围、禁止未经同意追踪个人,并要求连接可能造成伤害的自主物理硬件时由合格操作者观察。

  11. IT之家75

    OpenAI 年化营收被曝接近 500 亿美元,比预期少了约 200 亿

    据金融时报报道,OpenAI 向投资者披露截至 9 月底年化营收接近 500 亿美元,较此前预期缺口约 200 亿美元。差异源于两家公司财务统计口径不一致,Anthropic 计入云厂商合作伙伴销售营收而 OpenAI 剔除该部分。报道发布后美股科技板块下跌,纳斯达克 100 指数收跌 1.4%,英伟达跌 2.9%、甲骨文跌 5.5%。

  12. The Verge · AI63

    加州试图叫停机器人对人类的格斗赛,向 Rek 发出停止函

    加州体育委员会向初创公司 Rek 发出停止函,称其 9 月 18 日举办的人机格斗赛未经批准,要求未经许可不得在加州举办任何涉及人类的拳击或综合格斗赛事。比赛中人类选手 Frankie LaPenna 对阵一台由人类通过虚拟现实系统远程操控的人形机器人,该机器人外观疑似 EngineAI 产品加装了 Terminator 式头部。

  13. TechCrunch · AI76

    被解雇的 OpenAI 安全研究员反驳违规指控,警告寒蝉效应

    三名上周被 OpenAI 解雇的安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 发表公开信,否认公司关于他们违规处理敏感信息的指控,并警告此次解雇正在 OpenAI 内部造成寒蝉效应。

    推荐理由:这封公开信与 OpenAI 的内部备忘录形成对照,读者可从双方对解雇原因的不同表述中看出安全研究文化正在发生变化。

  14. The Decoder82

    AI 生成证明涌入数学界,部分数学家呼吁抵制 OpenAI

    数学家组织 AHM 发表声明呼吁抵制 OpenAI,称其一次性发布 700 多份 AI 生成的证明是权力的展示而非学术成果。OpenAI 此前称内部模型一个月解决了 100 多个开放数学问题,约 8000 个问题的成功率约 5%,每个问题平均耗费 3 小时 GPT-Pro 级算力。

    推荐理由:原文对照了 OpenAI 批量发布证明与 Anthropic 合作数学家的两种路径,读者可据此评估 AI 进入基础学科的不同方式。

  15. The Decoder73

    Anthropic 更新使用条款:长期辱骂 Claude 可能导致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,明确禁止对 Claude 施加持续且无必要的辱骂或残忍行为,违规者可能被警告、限速、限制、暂停或终止访问。Anthropic 向 The Verge 表示该规定仅针对极端情形,不涉及正常挫败情绪或研究用途。更新还整合了虚假账号政治宣传禁令、将武器禁令扩大至无人机武器化软件并更明确禁止未经同意的监控,政府合同可能存在例外。

  16. TechCrunch · AI57

    Anthropic 更新使用政策,禁止长期辱骂模型与干预选举

    Anthropic 更新使用政策,明文禁止长期辱骂模型、干预选举、武器软件和监控。自八月更新以来 Claude 已被训练终止与持续有害或辱骂用户的对话,新规则明确禁止用户继续此类对话;政策称该禁令仅适用于用户反复残忍对待模型且无明确目的的极端情形,不适用于常见的用户挫败、反驳、黑暗创作主题或模型测试与研究。

  17. TechCrunch · AI74

    OpenAI 年化收入据称较此前预期低 200 亿美元

    据 Financial Times 报道,OpenAI 告知投资者其年化收入接近 500 亿美元,较此前约 700 亿美元的预期低约 200 亿美元。700 亿美元这一数字源自 OpenAI 投资人为与 Anthropic 年化收入直接对比所做的推算,而两家公司计算口径不同,Anthropic 会将云合作伙伴的销售额计入其中。