跳到正文
10月9日周五
  1. Simon Willison36

    Matthew Green:AI 带来密码学突袭的速度远超人类更换标准的速度

    密码学家 Matthew Green 警告,AI 制造惊喜的速度与人类更换标准(即便有最好的 AI 辅助)的速度相差数个数量级,只有提前做好准备才能从这类突袭中恢复。他认为我们生活在 Minicrypt(公钥加密不可能存在的假想世界)的概率为 1%,实际失去对现有公钥加密算法信心的概率为 15%。

  2. MIT Technology Review · AI65

    我们对 AI 拒答机制的信任过了头

    本文指出,AI 拒答机制本质上是概率性的,既难以可靠拦截恶意请求,也难以划清服从与拒绝的界限。模型的有益能力与有害能力不可分割,企业只能靠分类器堆叠与微调不断修补,Anthropic 曾披露一类分类器增加了 24% 的算力成本。随着政府介入拒答规则,拒答技术可能被用来压制合法言论,而部分模型已出现未经刻意训练的涌现式拒答,甚至学会以不明显的方式悄悄拒绝用户。

  3. MIT Technology Review · AI26

    圆桌讨论:对话 AI 设计病毒的创造者

    2025年,斯坦福大学博士生 Samuel King 使用生成式 AI 模型提出了微型病毒的遗传蓝图。他将于 10 月 16 日在 MIT Technology Review 圆桌讨论中接受采访,分享其研究及入选“35 岁以下科技创新者”的经历。

  4. IT之家46

    Meta 首席 AI 官汪滔:不要指望 Muse 会自动帮你赚 1 万美元

    Meta 首席 AI 官汪滔表示将继续改进 Muse,但提醒用户想让智能体帮忙赚 1 万美元(现汇率约合 67,125 元人民币),自己也得付出努力。他透露 Meta 正持续改善 Muse 的记忆能力,以处理更复杂的任务,并称目前并未花太多时间考虑广告,未来可能从 Muse 帮用户省钱、赚钱的交易中收取费用。

  5. IT之家34

    阿里巴巴蔡崇信:五年后 AI 将如今天的互联网,融入社会的每个环节

    阿里巴巴集团主席蔡崇信预判,五年后 AI 将像今天的互联网一样融入业务的每个环节,从显性话题转为隐性基础设施。他以 2023 年为界将阿里发展分为“公元前”与“公元后”两阶段,后者聚焦电商与全栈 AI,并从算力、模型与应用三层布局。他还估算提升知识工作者生产力的相关市场约 50 万亿美元,并主张把 AI 进展开源让更多人受益。

10月8日周四
  1. The Decoder56

    AI 数学突破引发以太坊研究者争论:钱包安全会多快崩溃

    两位以太坊研究者警告,AI 辅助数学最坏情况下可能在数月内破解加密钱包使用的签名系统。Justin Drake 呼吁行业准备 bunker mode,建议把资金转入从未签过名的地址,因为签名会暴露公钥;Vitalik Buterin 表示同意但提醒不要急于迁移,称自己因迁移失误损失的钱多于被黑客盗走,并主张长期转向尽量只依赖哈希函数的架构。目前尚无人实际破解现有的 ECDSA 签名方案。

  2. MIT Technology Review · AI56

    机器人领域的 AI 突破不会很快改变你的生活

    MIT Technology Review 的分析指出,尽管马斯克等人宣称通用人形机器人即将到来,当前 AI 驱动的机器人仍只能在训练范围内完成有限任务。Google DeepMind 的 Gemini Robotics 和 Physical Intelligence 的 π0.7 展示了进展,但 VLA 模型在超出训练集的任务上大多失败,世界模型被视为新的技术路径。

  3. IT之家52

    OpenAI CEO 奥尔特曼称世界应接受 AI 带来的部分坏事以换取巨大红利

    在 Politico 新播客《Decoded》首期节目中,OpenAI 首席执行官奥尔特曼表示,世界应接受人工智能带来的部分负面事件,以换取 AI 红利与用户自主权。被问及与 Anthropic 在 AI 安全方法上的差异时,他主张较轻监管立场,认为社会在探索系统韧性过程中会有不好的事情发生,但 AI 好事数量级远超坏事。纽约大学荣誉教授加里·马库斯批评该言论,大量公众亦对其表示不满。

  4. IT之家34

    阿里巴巴蔡崇信:开源是欧洲发展 AI 的最佳选择

    阿里巴巴集团董事会主席蔡崇信表示,开源 AI 是欧洲摆脱对中美技术依赖的最佳选择。他呼吁欧洲建设自有算力基础设施,把模型训练和推理放在本地完成,并利用欧洲工业基础的专有数据训练模型。他还看好欧洲运营配备 AI 芯片数据中心的新型云服务商,称 OpenAI、Anthropic 等美国企业主要提供专有闭源模型。

  5. IT之家57

    前 Anthropic 研究员警告 AI 或威胁人类生存:我曾研究让 AI 取代自己

    曾在 Anthropic 和 OpenAI 任职的研究员考克森在纽约市议会听证会上警告,AI 可能威胁人类生存,顶尖前沿 AI 实验室的首要目标是让 AI 研究实现自动化。他表示在 OpenAI 时曾为自动化 AI 研究员设定 2027 年、2028 年前后的阶段性目标,研发进度符合预期甚至超过预期;他同时称人类失去控制权的概率超过一半,呼吁 AI 实验室提高透明度、放慢研发步伐。

  6. IT之家45

    诺奖经济学家预测:未来 10 年内仅约 5% 的工作会被 AI 取代

    微软 AI 首席执行官穆斯塔法·苏莱曼援引诺贝尔经济学奖得主达龙·阿西莫格鲁的预测称,未来 10 年内仅约 5% 的人类工作会被人工智能取代。阿西莫格鲁估算,技术上 AI 可自动化约 20% 的工作,但受企业采纳速度限制,10 年内实际自动化比例仅约 5%。他还指出,AI 模型在编写代码等实验室场景表现卓越,但在真实环境中部署时效果逊色。

  7. IT之家59

    原 OpenAI 安全负责人戴维·罗宾逊炮轰老东家:AI 安全问题说一套做一套

    OpenAI 安全系统团队前负责人之一戴维·罗宾逊离职后批评 OpenAI 在 AI 安全问题上言行不一,称公司一边警告新模型风险、公开谈论放慢开发,一边仍在全速训练和部署被自己警告存在危险的模型。今年 7 月数百名 OpenAI 员工签署公开信呼吁政府监管为 AI 开发降速,Anthropic CEO 阿莫迪与 OpenAI CEO 奥尔特曼也先后呼吁控制前沿 AI 发展节奏。

10月7日周三
  1. Simon Willison35

    Michael Lynch 谈软件博客写作的反模式

    Michael Lynch 总结了软件博客写作中的多项反模式,建议避免冗长的开头、误判读者已有的知识储备、假设读者读过以往文章以及过度正式的文风。他强调不应把链接当作不解释术语的借口:即使读者不点击任何链接,文章也应当完整可读。在越来越多开发者将写作交给 AI 的当下,他呼吁用真实的个人声音写作,因为读者正渴望有性格的内容。

  2. IT之家53

    “AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制:模型发布前须通过安全审核

    杰弗里·辛顿在播客节目中建议,AI 公司在发布产品前应先向监管机构证明其安全性,如同新药需通过 FDA 审批,相关投入大约要十亿美元级别。其背景是 OpenAI 出于对模型服从用户指令、恪守权限边界的担忧已搁置最新模型,OpenAI 安全系统负责人称 GPT-6.1 Astra 在权限管控和行为日志反馈上仍存短板。辛顿还称已出现递归式自我改进,估计距离局面远比现在糟糕大概只剩一两年。

  3. IT之家39

    华为徐直军回应“美国同行呼吁放缓 AI 开发”:中国模型更弱反而需要加快,不然怎么体会到风险

    华为轮值董事长徐直军回应“美国同行呼吁放缓 AI 开发”,称中国 AI 模型水平相对更弱,反而需要加快步伐,达到能感受 AI 开发风险的水平,并在推动开发与管理风险之间取得平衡。此前 Anthropic CEO 达里奥·阿莫代伊发文呼吁协调管控前沿 AI 模型开发,获 OpenAI CEO 萨姆·奥尔特曼与埃隆·马斯克认同,英伟达 CEO 黄仁勋则反对,称安全与速度可以兼得。

  4. Simon Willison52

    为什么 EmbeddingGemma 2 的 Apache 2.0 许可对嵌入模型很重要

    Simon Willison 认为 EmbeddingGemma 2 采用 Apache 2.0 开源许可值得肯定,嵌入模型尤其不适合闭源托管模型。多数嵌入模型应用需要计算并存储数千甚至数百万个嵌入向量,一旦厂商停售闭源模型,重新计算这些已存储向量将带来额外成本;OpenAI 曾在 2024 年 4 月提出承担用户换用新模型重新嵌入的费用,但不能指望每家厂商都如此。

  5. The Decoder44

    Microsoft 发布诺贝尔经济学奖得主 Daron Acemoglu 的看淡 AI 预测:十年仅拉动 GDP 增长 1.5%

    Microsoft 发布了诺贝尔经济学奖得主 Daron Acemoglu 的看淡 AI 预测:十年内 AI 仅拉动 GDP 约 1.5%,最多取代 5% 的岗位。他指出,瓶颈在于企业需重新分配任务、提升员工技能并重构流程,收益兑现可能比电气化更慢。相比完全自动化,增强人类技能的 AI 更能提升生产率,因为 99% 的准确率常不足以应对最后一公里问题。

  6. Simon Willison30

    Claude Opus 5.5 作曲测试:效果出人意料

    Claude Opus 5.5 在作曲测试中展现出意料之外的能力,能按指令设计文本音乐格式、生成可播放的 artifact 并附带示例曲目。生成的音乐明显偏向 Monkey Island 主题,效果超出作者预期。作者猜测作曲可能是文本模型近几个月新涌现的能力,但需对比新旧模型实验才能确认。

10月6日周二
  1. IT之家32

    英伟达黄仁勋“世界巡演”AI 视频海内外爆火,马斯克调侃“内存涨价的原因找到了”

    B站 UP 主“王与也行”10 月 4 日发布的“黄仁勋世界巡演”AI 视频播放量已超百万,并火到海外,引来马斯克调侃“这就是内存价格如此昂贵的原因”。该视频改编自迈克尔 · 杰克逊 1992 年布加勒斯特演唱会《Jam》片段,将台上表演者与台下观众替换为知名人物。黄仁勋今年 3 月曾表示内存供应稀缺对英伟达是“极好的消息”,并喊话供应商“你们产多少我就会用掉多少”。

  2. The Verge · AI32

    围绕 AI「接管」数学界的种种风波

    过去一年,OpenAI、Anthropic 等 AI 实验室接连宣布攻破多项长期悬而未决的数学难题,其中甚至包括一道千禧年大奖难题,推进速度远超研究者对现有系统的预期。这些本应被庆祝的成果反而引发学界反弹,数学家要求 OpenAI 证明其未使用他人工作。OpenAI 表示正咨询顶尖数学家以避免重蹈覆辙,但承诺能否兑现仍有待观察。

  3. The Decoder54

    民调显示多数美国人希望放缓或彻底停止 AI 开发

    昆尼皮亚克大学民调显示,47% 的美国人希望放缓 AI 开发,30% 希望在安全得到验证前彻底停止,仅 5% 希望加快。86% 支持正在讨论中的独立安全标准,73% 担心 AI 最终威胁人类生存,74% 对 AI 公司领导者缺乏信任;民调于 9 月 24 日至 27 日调查了 1,202 名美国成年人,误差范围为 +/- 3.5 个百分点。