为什么 PPO 难以做出顶级棋类引擎:一个中国象棋项目的实验复盘
作者复现腾讯 Mastering Chinese Chess AI (Xiangqi) Without Search 后,把 PPO 模型分别接入 αβ、MCTS、BFMS 三种搜索,等节点对战全部失败。
作者复现腾讯 Mastering Chinese Chess AI (Xiangqi) Without Search 后,把 PPO 模型分别接入 αβ、MCTS、BFMS 三种搜索,等节点对战全部失败。
字节跳动(Bytedance)联合几所美国大学团队发表新论文,论证多数 AI 训练阶段并非必要,指出仅需三个步骤即可让模型具备自主研究网络、运行代码和解决多步任务的能力。论文认为当前训练方法日益嵌套,开发者几乎无法分辨哪个步骤真正有效,且复现成本越来越高。该团队还提供了一个有竞争力的开源模型来支持这一论点。
米哈游崩坏AI研发团队发布通用 VLA 基础模型 Gamer,基于 Qwen3-VL-8B 进一步训练,仅凭屏幕画面与任务指令在《崩坏:星穹铁道》中自主战斗、开机关、跟随 NPC 跑图。
姚顺雨和腾讯混元团队在Reddit围绕刚发布的Hy4和Hy4 flash举办AMA,透露Hy小模型已列入路线图,面向24GB显存的模型和更轻量的Flash-Lite也在计划中。
国家数据局局长刘烈宏在 2026 世界计算大会上表示,词元打通了算力、模型、数据间的价值传导链路,正成为数智经济的价值锚点。目前“词元工厂”快速兴起,行业高质量数据集经模型训练推理转化为可计量、可交付的智能服务,形成以词元计量、按调用计价的交付方式。下一步,国家数据局将积极拓展词元服务应用场景,健全词元计量计费、质量测评等标准规范,坚决避免低质量重复建设。
Kimi K3 轻量化复刻项目将训练的模型、优化器、课程、数据与 Checkpoint 打包进 Trainer 类,训练配方与 K3 论文对齐。优化采用 Per-Head Muon 与无辅助损失的 Quantile Balancing,以 8K→64K→256K→1M 四阶段课程扩展长上下文。项目还实现 Muon P2P 优化器,全 CPU 运行并提供无需 GPU 的 Gradio demo。
腾讯混元团队在 Reddit AMA 中表示,Hy4 仍有很大改进空间,尤其在后训练方面,团队正投入大量精力开展大规模强化学习,并计划训练更大规模的模型。团队认为 Hy3 和 Hy4 已证明扎实的小模型也能超越更大的模型,且成本更低。对于推出 240 亿到 310 亿参数稠密模型、发布对标 Qwen 27B 的小模型,团队均表示有可能,但大概不会发布 100B 以下专门做编程的模型。
OpenAI 分享其检测与打击对抗性蒸馏的防御体系,并强化了 GPT‑6.2 Astra 与 GPT‑6.2 Sol 的受保护推理防护,内部自适应黑盒评估中攻击成功率从 GPT‑6 Astra 原有防护下的 54.0% 降至 0.2%。
推荐理由:原文给出了对抗蒸馏的攻击路径与多层防御设计,读者可了解保护推理痕迹为何成为模型安全的关键环节。
11月16日,华为云发布昇腾原生具身世界模型CloudRobo-WM1.2,在RoboTwin 2.0和LIBERO-Pro 2.0上分别跑出88.98%和81.73%,双双排名第一,并计划于11月30日开放模型权重、推理代码和后训练代码。
贝佐斯以联合创始人兼联席 CEO 身份重回一线,其 AI 初创公司 Prometheus 估值已达 410 亿美元,累计融资约 145 亿美元,目标是打造「通用 AI 工程师」AGE,用 AI 重构实体制造业的工程设计。
推荐理由:原文把 Prometheus 的技术路线与资本布局并置,读者可看到工业 AI 与语言模型在数据获取和容错率上的本质差异。
作者用四组只改单一变量的对照实验证明,loss 上升的最常见根因是学习率过大和数据问题,模型结构排最后。学习率过大表现为前几十步即震荡上升;30% 标签翻转与特征乘 300 不缩放,都会造成训练 loss 降、验证 loss 升的剪刀差。
美国商务部封堵第三国云算力漏洞并要求台积电、三星暂停部分对华出货后,中国 AI 公司的算力获取渠道同时受阻。月之暗面(Moonshot AI)取消与印尼云服务商的 1.5 亿美元合同,原计划租用 Nvidia Blackwell Ultra B300 集群训练 Kimi K4;纽约时报另披露阿里巴巴通过 Megaspeed 秘密采购超 40 亿美元 Nvidia 芯片,并经浙实验室关联军事研究。
推荐理由:梳理了云漏洞封堵与台积电、三星停供的双重影响,可看出新规如何同时卡住算力租用和实体供应链。
AWS 宣布 Amazon SageMaker HyperPod 推出增强基础设施可观测性,帮助更快定位 GPU 训练问题,同时覆盖 EKS 和 Slurm 两种编排集群。
阿里巴巴集团 CEO 吴泳铭在 2027 财年第二季度业绩电话会上表示,全球各区域算力政策出现很大变化,阿里 2032 年全球数据中心规模超 20GW 的目标有可能下调,资本开支可能一定程度降低。
KIMI K3 轻量化复刻项目基于真实代码构建优化器交互式演示,用 Gradio 覆盖 Newton-Schulz、Muon 等 6 大组件,共 15 个 Tab。
马斯克透露,SpaceX 目前每月约新增 0.5GW AI 算力,大致相当于部署 22 万颗 GB300 芯片及配套的 CPU、网络设备和冷却系统等基础设施。他指出公司真正的扩张瓶颈在发电端,到明年底每月新增 AI 算力将超 1GW,届时这些算力或许可以称为“超级智能算力”。
英伟达在最新财报电话会上明确,对新云厂商的采购担保只有在对方完成融资、建成数据中心、部署算力并通过英伟达验收后才生效,若建设延期或受阻担保即不再存在。此前英伟达除出售 GPU 外,还通过采购承诺、融资、股权投资等方式帮助客户建设数据中心部署算力。报道指出很多新云公司高度依赖债务融资,若融资成本上升或资金获取变难,可能难以按期建成机房并部署 GPU。
这是博主发布的机器学习与深度学习调参实战手册上半部分,覆盖数据与特征工程、传统机器学习算法、深度学习通用训练参数和典型网络结构参数。手册为每个算法提供参数表、可运行的最小实现代码以及训练成功与失败的判据,并强调先查数据泄漏、再判断过拟合或欠拟合的方法论比记忆参数取值更重要。
Simon Willison 发布 Datasette 插件 datasette-arrows 0.1a0,基于 Datasette 1.0a43 新增的 register_output_renderer() 插件钩子实现 Apache Arrow 流式导出。
作者在本机 GTX 1660 Ti 上用真实数值实验拆解 PyTorch AMP 中 GradScaler 的作用:fp16 可表示范围仅 6.1e-5 至 65504,梯度上溢变 inf 会显式报 NaN,下溢则静默置零导致模型装死。
腾讯三季报显示 WorkBuddy 日活跃用户数超 1000 万,成为中国日均 Token 用量最高的 AI 产品;英伟达未购买企业责任险,面临至少两起证券欺诈诉讼,索赔期间市值损失约 1 万亿美元。DeepSeek 自 11 月 18 日起对模型调用触发的服务端搜索和网页抓取不再单独计费。Anthropic IPO 获近七倍超额认购,将于 19 日以「ANT」在纳斯达克挂牌。
Amazon SageMaker AI Serverless Model Customization 现已支持 Full Fine-Tuning(FFT),无需 GPU 预置或集群配置即可全参数微调模型。
地平线机器人实验室发布原生视频几何基础模型 LoFT,可从 RGB 视频联合预测相机位姿、内参及逐帧深度,恢复场景三维结构。该模型采用双循环 Transformer 架构,基于约 297 万条有效训练序列、9.62 亿帧图像完成规模化训练。在 SpatialBench、ClassicBench 和 VRBench 三套评测中,LoFT 在多项深度估计指标上达到 SoTA。
AWS 为 Amazon SageMaker HyperPod 推出三项新能力,用于更早发现分布式训练故障并提升集群 goodput。
RadixArk 发布首个模型 DaisyRose-27B,基于 Qwen3.8-27B,用 Miles 强化学习框架在长程智能体任务上训练,会话最长 1M tokens。
推荐理由:原文给出以 1,200 个任务、18 天、144 张 H200 完成长程智能体强化训练的完整做法,可作类似训练方案的参考。
AWS Quick User Group DC 举办首次聚会,展示 AWS Quick 演进为统一 AI 助手,新增 agents、skills 及第三方连接器。Financial Independence Group (FIG) 分享了将 AWS Quick 作为企业分析“单一前门”的实践,基于治理数据构建 AI 智能体工作流。参会者在 50 分钟内成功构建定制应用,体验从报表到推理的自动化。
Hugging Face 基于 272 个生产环境 SFT 任务(约 7,382 GPU 小时、NVIDIA H200)发现,常用 FLOP 预估与实际耗时偏差很大(R² = 0.31,MAE 12.41 h),而仅用派发前配置信息训练的 CatBoost 回归器达到 R² = 0.98、MAE 1.71 h、中位误差 0.51 h。
腾讯第三季度营收 2073.36 亿元、同比增长 8%,管理层称当前资本开支主要用于 AI 基础设施建设。受芯片限制影响,短期内可用算力减少,下一代模型推出需要更长时间;公司预计到 2028 年设备采购价格明显下降、经营压力逐步缓解,并认为相关限制将推动更多中国企业转向国内供应链和国产芯片。
AMD 扩展 Instinct MI400 系列,推出 MI450X 显卡加速器,核心规格与 MI455X 完全相同、算力不变,显存从 432GB 降至 288GB HBM4(应为 12 个 24GB 堆栈),峰值显存带宽不变。AMD 表示,对符合其显存容量的工作负载,MI450X 可在满足吞吐量和响应时间目标的同时优化运营成本。
Unsiloed AI 完成 750 万美元种子轮融资(Felicis 领投,Y Combinator 等参投),将含表格、图表的复杂企业文档转化为 AI 智能体可用的结构化数据,并标注信息来源以便核验。
该博客深入解析 Muon 优化器原理,并完成 KIMI K3 训练系统的轻量化全 CPU 复刻。Muon 通过 Newton-Schulz 迭代对梯度动量矩阵做整体正交化,使更新在所有奇异方向上等幅,克服了 AdamW 逐元素缩放破坏矩阵几何结构的缺陷。项目还实现 Per-Head 正交化、QK-Clip 与混合优化器等组件,并附带无需 GPU 的可运行 Gradio demo。
印度初创公司 Humyn Labs 完成 4700 万美元 A 轮融资,为美国 AI 与机器人公司提供真实环境训练数据。融资包括 Accel 领投的 2600 万美元股权和 Lighthouse Canton 领投的 2100 万美元风险债务。公司用自研双摄像头硬件在拉美和亚洲 20 多个国家采集人们日常劳作画面并标注,已有 12 家付费客户,4 月至 10 月收入 1000 万美元。
AI 初创公司 Osmo 称其嗅觉基础模型已达到「人类级嗅觉智能」,气味检测与辨别能力与普通人相当,调香能力接近初级调香师。该模型基于逾 1000 万条人类标注和 8 亿个「scent tokens」的自建数据集训练,已用于香水行业,上个月在某全球最大消费品公司胜过其内部调香师。
Salesforce 内部备忘录显示,因部分员工每月 Token 花费高达数千美元,公司从本月起按岗位设定每月 AI 使用预算。销售部门技术岗每月 1,000 美元、非技术岗 100 美元,客户成功及全球专业服务部门技术岗为 500 美元、非技术岗 100 美元;发言人澄清未在全公司统一设置个人预算,由各团队负责人自行管理。
Jason Wei 在 X 上宣布离开 Meta 的 TBD 实验室,加入 AI 训练数据与评测公司 Mercor 担任首席科学家,他认为随着越来越多公司训练 AI 模型,数据将塑造下一个前沿。
谷歌更新 Gemini 应用隐私控制,新增设置允许用户保留聊天记录、同时选择不将其用于生成式 AI 模型训练。用户仍可调整保存期限并手动查看或删除;若关闭“历史记录”设置,之后产生的聊天内容仍会保存约两个月,用于提供回复、处理反馈及安全保护。
Amazon SageMaker AI 宣布上线 AI 数据准备功能,覆盖自动标注、人工审核、合成数据生成、数据质量评估和数据转换,已在 US East (N. Virginia) 和 US West (Oregon) 区域正式可用。
推荐理由:原文把每项能力拆成可独立调用的模块并给出组合模式,读者可据此评估它能否接入现有数据工作流。
Google 把 Gemini 应用中关闭聊天历史后的临时对话保留期从 72 小时延长至约两个月,称此举旨在随着 AI 系统能力增强而提升安全。该调整将在未来几周内面向全球推出,临时对话不会用于训练 AI 模型。
不生成输出 token、只在预设选项间快速抉择并给出置信度的决策模型,上月已占 Vercel AI 模型路由请求的四分之一以上,而这一品类一个月前才问世。
美国商务部 BIS 发布 interim rule,将远程访问规则与现有实体出口禁令对齐,新加坡、马来西亚、泰国、印尼和巴西的数据中心需取得美国政府许可,才能向 Nvidia 等美国厂商购买先进 AI 芯片,消息公布后 Nvidia 股价一度下跌 2.9%。
推荐理由:原文将美国出口管制新规与路透对中国蒸馏产业的调查并置,读者可看到封堵算力与获取模型数据两条线索如何相互牵动。