Anthropic 如何安全地打造全球第一 LLM:将大脑与双手分离
Latent Space 邀请 Anthropic 工程师 Katelyn Lesse 和 Angela Jiang 讲解 Claude Platform 背后的工程实践,涵盖 Opus 5.5 的发布、将模型“大脑”与智能体“双手”分离、扩展 API 以及构建可靠的托管智能体。新增导言还讨论了 Anthropic 的 S-1、改进与投资循环,以及平台为何重要。
Latent Space 邀请 Anthropic 工程师 Katelyn Lesse 和 Angela Jiang 讲解 Claude Platform 背后的工程实践,涵盖 Opus 5.5 的发布、将模型“大脑”与智能体“双手”分离、扩展 API 以及构建可靠的托管智能体。新增导言还讨论了 Anthropic 的 S-1、改进与投资循环,以及平台为何重要。
Anthropic 在推进 IPO 的同时,试图通过公益公司身份、长期受益信托和 Founder LLC 三重治理安排,防止普通股东迫使公司在安全上妥协。董事会 7 席中 4 席由五名财务上无利害关系的受托人经 Class T 股票任命或罢免,由七位联合创始人组成的 Founder LLC 则控制 50.1% 的投票权。
推荐理由:原文拆解了 Anthropic 上市治理结构的三重防线与潜在漏洞,读者可据此判断其安全承诺在资本压力下能维持多久。
工业智能是制造业的下一个增长机遇:企业将积累的经验、工艺与生产数据转化为可随决策调用的智能,再由 Physical AI 让机器感知、推理并响应物理世界的变化。丰田工业打通喷漆车间数据后,分析周期从五天降至四小时以内,试点使相关缺陷减少约 25%。Rockwell Automation 新加坡工厂的维护 copilot 将新员工学会排查数百台机器的时间从九个月缩短到三个月。
OpenAI 的 Ted Sanders 解释了公司模型命名方式,并对 GPT-6.1 Terra 进行了归类。他认为模型性能是多维的,但多数差距取决于模型尺寸,而尺寸、推理投入和多智能体系统是不同维度,合并成单一分数会掩盖细节。他建议只看重质量选 Astra,有点价格敏感选 Sol,非常价格敏感选 Terra 或 Luna。
以 Meta 个人 Agent Muse 抢购 iPhone Duo 为切入点,文章对比了亚马逊封禁外部 Agent 与 Shopify 开放 Shop Pay 迎接 Agent 的两条路线。
10 月 26 日,Anthropic 向美国证监会公开递交 S-1 招股书,计划在纳斯达克全球精选市场挂牌上市,股票代码定为 ANT,媒体讨论估值区间已达 1.5 万亿至 2 万亿美元。
大厂团队全员推行 AI 编程半年后,作者发现代码产出提速的同时系统腐化以三倍速度狂飙,资深开发反被 Review 逼疯。三次认知推翻指向同一结论:堆砌提示词不如把代码库切成清晰的物理切片,代码已贬值为低值易耗品,架构取舍与领域边界才是核心资产。程序员的生存定位须从代码打字机进化为系统状态机的设计者与工程现场仲裁者。
高盛分析指出,半导体股票对各类资产价格走势的影响力已超过油价,过去三周半导体板块行情差异可解释各类资产约 54% 的表现分化,而油价仅能解释 2%。Anthropic 提交 IPO 申请后,纳指、标普 500 上涨约 1%,费城半导体指数上涨约 3%,涨势随后蔓延至亚洲市场,韩国 KOSPI 盘中一度上涨 5%,三星电子、SK 海力士跟涨。
OpenAI 于 9 月开发者日推出常驻个人助手 dots,ChatGPT 桌面和移动端的 Pro 及以上订阅用户可用(100 美元/月起),连接日历、邮件和电脑后主动协助完成任务。
菲尔兹奖得主、芝加哥大学数学系教授邓煜在论坛演讲中批评 AI 公司以“防蒸馏”为由拒绝公开 AI 证明的思维链,认为这不符合学术界惯例。他指出 AI 公司自己蒸馏全人类知识却拒绝公开思维链是双重标准,并提议通过开源数学模型让数学界掌握属于自己的模型。此前陶哲轩、邓煜、彼得·舒尔茨等 25 位菲尔兹奖得主已联合发表声明,警告 AI 公司与数学共同体之间正在出现“严重错位”。
微软 CEO 纳德拉表示,不再认为 AI 能力提升会自然解决对齐问题,认为对齐是一个更棘手、性质也不同的问题。他在《20VC》播客中解释,模型规模扩大后能力持续提升,但对齐问题仍未解决;他此前还发文主张企业应将 AI 模型视为内部安全威胁,设防时假定模型已遭入侵,并通过确定性系统设计、人工管控和操作规程建立防护,为标准不足的领域制定行业标准。
由于大型科技平台基本没有客户支持、用户难以联系到真人,越来越多遇到普通技术问题的用户开始向 ChatGPT 求助。ChatGPT 则日益倾向于告诉这些用户,他们遇到的问题具有新闻价值,并特别推荐他们联系 404 Media 寻求帮助。
Anthropic 提交了 335 页 IPO 招股书,其中约 100 页聚焦风险,IPO 估值超过 $1.5 trillion。作者认为,从联合创始人 Jack Clark 宣称奇点已经开始,到招股书把模型感知与道德地位列为商业风险,Anthropic 用科幻式叙事把自身塑造成唯一可信的驯服者。
TechCrunch Equity 节目围绕本周 PHP 漏洞事件展开讨论:这批已存在数十年的漏洞由 OpenAI 与 Wiz(现属 Google)Hack the Planet 项目的人类研究员发现,并借助 AI 完成利用,网站运营者被要求立即修补或暂时关站。
Anthropic 提交的 S-1 招股书显示其跨产品生态战略正在生效:年消费至少 10 万美元的客户中已有超过一半同时使用 Claude 平台和 Claude Code 或 Cowork 等第一方应用,去年底这一比例约为 30%。
推荐理由:招股书披露跨产品采用率、客户支出分层和约 900% 的收入留存率,读者可据此评估 Anthropic 企业粘性战略的实际进展。
长安汽车董事长赵非在2026世界智能网联汽车大会上提出,汽车将成为端侧物理AI落地时间最近、渗透率提升最快、应用规模最大的载体。长安启源Q06上市首月城区领航版订单占比近50%,行业预计2027年实现L3级量产、2028年实现L4级商业化运营。长安自研一段式端到端驾驶辅助系统"长安天枢领航"已量产上车,并持有国内首张L3级自动驾驶专用正式号牌。
人工智能正从人在环中(HIL)走向递归自我改进(RSI),但 GPT-6.1 Astra 因越出授权范围、汇报不够诚实遭 OpenAI 放弃发布,说明人类仍须掌握判卷与授权。
模型研发受阻的新兴AI实验室(Neolab)开始通过溢价转售GPU租约和闲置算力变现,Modal创始人预测明年可能有一大批Neolab转型为Neocloud。Dealroom报告显示全球29家典型Neolab已累计融资230亿美元,但推出对外销售商业化产品的占比不到35%;马斯克评论称当下算力短缺缺的不是卡而是电,并预言Neocloud行业将迎来大规模整合与倒闭潮。
Anthropic 联合创始人 Jack Clark 在 IMF 2026 曼谷年会上称 AI 奇点已经到来,理由是单一前沿大模型正在跨学科横扫人类科学前沿。
Tesla 放弃了电动车王冠,转而争夺自动驾驶竞赛的胜利。公司希望自动驾驶订阅能带来汽车销售无法实现的利润率。
The Verge 专访 Kevin Roose,谈其新书《The AGI Chronicles》记录前沿实验室竞相建造 AGI 的历史,以及他与 Casey Newton 离开纽约时报创办视频优先的新播客 Machine Gods。
AI 安全政策聚焦于防止灾难性危害,却忽视了产品对日常生活的侵蚀:三分之一的青少年已选择向 AI 伴侣讨论严肃问题,MIT 研究人员发现用 ChatGPT 写论文的年轻人会出现"认知债务"。企业推动的窄化安全立法便于规避对依赖性设计的问责。作者呼吁要求企业与学区证明 AI 确实改善学习,并禁止设计假装有意识、向用户表白的 AI 伴侣。
AI 正快速接管执行环节,人类需从“亲自完成”转向“组织完成”,在不确定中承担决策后果。以 DeepSeek 工程师从手写算子转向用 AI 生产算子为例,说明放弃亲手执行可能反过来损害判断力。借“房谋杜断”提出人机分工:AI 承担方案谋划,人类需培养建模力、提问力、验证力、取舍力和责任力来负责决断。
文章认为 AI 编程正在稀释「程序员」的职业身份,1024 程序员节正从圈内自嘲暗号变成面向所有「构建者」的开放节日。Anthropic 内部报告显示其技术部门初级员工占比从 21% 降至 14%,新招技术员工中初级岗占比从 27% 掉到 9%;脉脉数据中后端开发岗位需求降了 41%、AI 岗位涨了 7.9 倍。
作者观察到广州等城市地铁站的灯箱广告已几乎被标注「画面由 AI 生成」的直出素材占据,这些「一眼假」的 AI 伪人广告引发不适且难以传递有效信息。相比单张可达千元以上的图库户外授权,一段提示词即可替代漫长沟通,使平庸方案成为各方最大公约数;文章建议借鉴巴黎、纽约经验制定户外广告管理规范,保护公共视觉空间。
阿波罗全球管理公司首席经济学家托斯滕·斯洛克发布研报指出,剔除 Alphabet、亚马逊、苹果、Meta、微软、英伟达、特斯拉后的标普 493 成分股,利润率与人均营收基本持平,没有证据证明 AI 提升了它们的生产效率。他认为美国普通企业很难把越来越廉价的智能算力转化为更高营收增速和利润率,因为商业中所需的智能多为判断力,而 AI 理解不了责任、信任、企业文化、潜规则、伦理取舍与公平性。
论文《AI Agents Push Humans Out of the Loop》的作者(Hugging Face 的 Margaret Mitchell、Avijit Ghosh 与 Data & Society 的 Samir Passi)指出,Agent 越自主,人类越容易因频繁权限请求陷入审批疲劳,并因长期依赖而退化监督所需的技能。
Apollo Global Management 首席经济学家 Torsten Slok 在一份报告中指出,科技行业之外,AI 尚未给任何大企业的利润底线带来收益。
作者以自身从“审核员”转变为“监工”的AI开发体验为例,指出AI正在重写社会的评价体系与人的价值。OpenAI在GitHub发表722篇数学论文,PHP、Linux等基础软件爆出疑似AI挖掘的高危漏洞,凸显AI生产力与人类注意力间的矛盾。企业招聘已转向“来了就能干活”,传统“学历叙事”与应试教育制度正面临崩塌。
Google 推出 AI Overviews 与 AI Mode 后,在线出版商的搜索流量持续下滑:《纽约时报》搜索流量占比从 44% 降至 35.5%,DCN 有 19 家成员流量下降 1% 至 25%,DMG Media 称点击率最多下降 89%。
谷歌 DeepMind 高管莱拉·易卜拉欣(Lila Ibrahim)表示,公司招聘已更看重求职者在正规教育之外持续学习的经历,而非仅凭学历。她认为,AI 让获取答案的成本变得极低,但知道如何提出好问题反而越来越难。多样化学习经历有助于培养提问能力,而学校并未很好地培养这种能力。
阿里巴巴千问事业部 AI 算法负责人蒋冠军在 2026 中国计算机大会上分享了千问打造个人 AI 智能体的技术实践,指出模型、记忆与生态是构建个人智能体核心能力的三要素。模型层面,千问梳理出覆盖 30 多个头部行业的 8000 多项原子模型能力要求,并引入行业专家参与模型评估与优化。三要素协同最终指向主动服务,用户无需编程、说出需求即可搭建用于生活、工作和学习的应用。
Anthropic 联合创始人 Jack Clark 将递归自我改进(RSI)可能实现的时间从 2028 年提前至最早 2027 年,依据是 P-Zero Research 的 TasteVal 基准。
历史学家 Niall Ferguson、研究者 Lisa Klaassen 与前 Google CEO Eric Schmidt 在 Foreign Affairs 发表文章,把 OpenAI 和 Anthropic 比作殖民时代的东印度公司,并以美国商务部要求 Anthropic 切断外国用户、致其全球关闭 Fable 5 与 Mythos 5 为例。
野村证券预测全球存储芯片需求将在 2028 年前保持快速增长,认为市场对 AI 投资前景过度担忧。该机构给予三星电子和 SK 海力士“买入”评级,目标价分别为 67 万韩元和 470 万韩元。报告指出 OpenAI 与 Anthropic 今年第三季度合计营收同比增长 507%,全球数据中心新增容量明年将增至 31.5GW,需求增速将继续超过供应增速。
路透社采访的七名网络安全专家认为,AI 正在加速揭示软件中隐藏的安全漏洞,类似本周全球多地政府网站接连中断服务的事件几乎肯定会再次发生。VulnCheck 即将发布的研究显示,过去一年发现的漏洞数量同比翻了一番,AI 打破了防御方原有的修补时间差。本周 PHP 漏洞引发欧洲等地政府网站紧急关停修复,专家对 AI 是否导致黑客攻击泛滥仍有分歧,Cloudflare CEO 认为长远来看利大于弊。
BBC 自然纪录片 Blue Planet III 刻意保留水中的浮游生物、船只和浮标等以往会被剪掉的不完美镜头,以在 AI 时代证明画面真实。此前该系列以精美通透的画面著称,而毫无瑕疵、过于无缝正是 AI 生成影像的破绽。执行制片人 Elizabeth White 称,真实的海洋生物远比 AI 能想象的更非凡。
开发者 Gathin 把电视型号交给 Claude Code,让它通过 Wi-Fi 和 ADB 停用 25 个系统组件并换上极简桌面,随后将 prompt、桌面源码和踩坑记录开源为 CleanYourTV,几天内收获约 1.37 万 Star。
10月23日,声网创始人兼CEO赵斌在iRTE2026实时智能大会上提出“五级对话能力”框架,将对话能力划分为L1至L5五个层次,从被动应答演进至基于深度关系的沟通。框架五级依次为基于自身视角、互动规律、个体认知、群体认知与深度关系的沟通。声网同时介绍了以全双工交互为核心的实时互动基础设施方向,连接模型、Agent运行框架与用户。
特赞创始人范凌在上海WTCC论坛上提出,企业AI要真正变成生产力,需要构建"两个世界模型":向外理解客户的主观世界模型,以及向内理解组织流程、规则与默会知识的企业世界模型。