Anthropic 为 Claude API 新增 effort 中途调节 Beta 功能
Anthropic 为 Claude API 新增 Beta 功能,开发者可在消息中调整 effort,让模型按任务需要改变回答的投入程度。操作上可在消息序列插入一条空 system 消息并通过 output_config.effort 设置目标等级,无需改动顶层配置,提示缓存仍可命中。该设置不修改已生成内容,从下一条带新输入的用户消息起生效,开发者需留意插入位置和下一次用户输入的时点。
Anthropic 为 Claude API 新增 Beta 功能,开发者可在消息中调整 effort,让模型按任务需要改变回答的投入程度。操作上可在消息序列插入一条空 system 消息并通过 output_config.effort 设置目标等级,无需改动顶层配置,提示缓存仍可命中。该设置不修改已生成内容,从下一条带新输入的用户消息起生效,开发者需留意插入位置和下一次用户输入的时点。
DeepSeek 实测证实,模型升级后旧版本为长前缀算好的 KV Cache 可跨版本直接复用,无需作废重算,首 token 生成快 5 倍。以往模型滚动更新时,这些缓存通常全部作废重算。
谷歌推出 Gemini Decisions API,由 Gemini Decision 1 模型驱动,可在一次快速处理中对文本、图像、视频和 PDF 内容完成至多 1000 项是非判断、选项选择和标准评估。
Google 发布决策模型 Gemini Decision 1 的 API,支持 yes/no、选择和 rubric 评分三类问题,每百万输入 token 10 美分、输出免费。与仅支持文本的 Jev 和支持文本与图像的 OpenAI 不同,它覆盖文本、图像、音频、视频和 PDF;作者用视频实测发现其返回概率值而非 1.0/0.0。
Google DeepMind 推出 Gemini Decisions API 及底层模型 Gemini Decision 1,可在单次推理中处理最多 1,000 个封闭式决策问题,覆盖文本、图像、音频、视频和 PDF,并在 150 至 250 毫秒内返回带置信度的选项概率。
Google DeepMind 对 Signal 的关键部分完成了数学验证,这项为期四周的项目表明 AI 有望让形式化验证变得更加实用。
本篇为 KIMI K3 Attention Residuals(AttnRes)完整梳理的第二部分,逐层拆解打分核与伪查询、Full/Block AttnRes、AttnResState 状态机及 online-softmax 两阶段算法。
这篇学习笔记详细解析了 Transformer 架构的工作原理,说明其如何以自注意力机制替代 RNN/LSTM 的循环结构来处理序列数据。笔记依次讲解了缩放点积注意力、多头注意力、位置编码与整体架构,并梳理了 BERT、GPT、T5 等变体的分化及 Decoder-only 架构成为现代 LLM 事实标准的原因。
百度文心大模型发布 ERNIE 5.5 Flash Preview,这是基于此前 ERNIE 5.5 Flash Base 的首个后训练版本,总参数 280B、激活参数 14B,支持 1M 上下文,官方称在编程、3D 建模、知识工作和内容创作等方面表现出色。
Google DeepMind 正式向开发者、企业、科研人员及普通消费者开放最新旗舰模型 Gemini 4 Carbon,擅长复杂编程、网络安全、科学推理和长时间执行的多智能体任务。
谷歌宣布正式开放 Gemini 4 Carbon 模型,面向开发者、企业、科研人员和消费者提供服务,定位为谷歌目前能力最强的推理模型,重点面向复杂软件工程、多步骤智能体任务、科学研究和网络安全场景。
Naive-N0.5-Flash 是中国公司 NaiveAI 推出的开源权重编码模型,基于小米 MiMo-V2.5 继续训练并搭配自研 NaiveRT 推理引擎,官方称超快模式峰值约 2,100 tokens/s。
Google DeepMind 宣布 Gemini 4 Carbon 面向开发者、企业、科学家和消费者开放,定位为网络安全、长程智能体工作流与科学推理的最强前沿模型。
推荐理由:原文将 Carbon 与 Argon 做了明确分工,并给出基准排名与价格,读者可判断该把它用在哪些最复杂的任务上。
本文系统解读 Kimi K3 的 Attention Residuals 机制,把标准残差的深度维等权累加替换为逐层可学习伪查询的深度维 softmax 注意力,并梳理其演进脉络与消融结论。
Meta AI 发布新模型 Muse Ember,官方称其为最小、最高效的模型,面向复杂推理执行以及智能体重复执行的工具调用、编码子任务、路由、提取和长文档解析。
推荐理由:原文将 Muse Ember 与 GPT-6 Luna、Claude Haiku 5.5 的定价及 Artificial Analysis 效率前沿放在一起比较,可帮助读者判断小模型选型。
Anthropic 于 11 月 10 日发布 Claude Fable 5.2 与 Claude Mythos 5.2 两款模型,官方称编码、推理、科学研究、网络安全及机器人等领域显著提升,输出速度最高提高 30%,成本下降 20%。
同一新闻,精选展示《Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2:多智能体协作升级,性价比反超 Opus 5.5》
Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2,1000 个 Agent 仅用 30 小时完成费马大定理 100% 形式化证明。
推荐理由:原文把 Fable 5.2 与 Opus 5.5、GPT-6 Astra 的跑分和单任务成本并列对比,读者可直接判断各档位的性价比差异。
Meta 发布轻量级模型 Muse Ember,官方称其表现媲美 Claude Haiku 5.5,单任务成本仅 1/3。该模型支持 100 万 Token 上下文、最多 51.2 万 Token 输出,原生理解文本、图像、音频和视频,可在一次会话中执行数百次编程子任务。
同一新闻,精选展示《Meta AI 发布最小高效模型 Muse Ember》
Anthropic 正式发布 Claude Fable 5.2 和 Mythos 5.2 两款面向复杂技术挑战的旗舰模型,重点提升编程、推理、视觉理解和科学研究能力,标准 API 价格降低约 20%。
同一新闻,精选展示《Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2:多智能体协作升级,性价比反超 Opus 5.5》
Anthropic 于 11 月 9 日推出 Claude Fable 5.2 与 Claude Mythos 5.2,前者面向普通用户并内置网络安全与生物安全防护,后者面向通过审核的网络安全和生命科学机构。
同一新闻,精选展示《Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2:多智能体协作升级,性价比反超 Opus 5.5》
AWS 宣布 Claude Fable 5.2 和 Claude Mythos 5.2 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。
推荐理由:原文给出新模型的能力定位与 Bedrock 迁移方法,读者可对照 claude-api skill 完成代码升级。
Anthropic 发布 Claude Fable 5.2 和 Claude Mythos 5.2 两款模型,称其在编码、推理和视觉方面均有改进,输出速度快于 5.1 版本。
Anthropic 发布 Mythos 5.2 与 Fable 5.2,官方称新模型在编码、推理和视觉方面有改进;Fable 价格从每百万输入 token $10 降至 $8,低于主要竞品 GPT-6 Astra,跨 effort 档位响应速度提升 30%。
同一新闻,精选展示《Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2:多智能体协作升级,性价比反超 Opus 5.5》
Meta Superintelligence Lab 周一发布 Muse Ember,这是该实验室迄今最轻、最具成本效率的模型,面向智能体的复杂推理执行与日常重复任务。
同一新闻,精选展示《Meta AI 发布最小高效模型 Muse Ember》
11月9日,百度文心首次披露 RSI 最新进展,公布自动研究系统 ERNIE Evolve,已用于即将发布的文心 5.5 Flash 推理优化。该系统在 NanoChat AutoResearch 和 NanoGPT Speedrun 两项任务的三个评测指标上取得目前公开验证的 SOTA 表现,并在昆仑芯 P800 低时延场景将生成速度提升至基线的 623.6%。
KIMI K3 的 Gated MLA(门控多头潜在注意力)在 DeepSeek-V2 的 MLA 基础上引入 NoPE 与全秩输出门(Eq.7),将 KV cache 从 O(T·H·D) 压缩至 O(T·kv_lora_rank)。
“罗西的思考”发布 KIMI K3 Serve 模块交互式演示,14 个 Gradio Tab 覆盖投机回放(投影缓存 vs 完整快照)、重演一致性验证、ReplaySSM 环形缓冲、统一页池、前缀缓存两阶段 lookup 与 Fleet 一致哈希路由等核心机制。
知识蒸馏让参数庞大的教师模型将知识传授给小巧的学生模型,使小模型在特定任务上表现出色。以 DeepSeek-R1 为教师模型生成推理数据,可微调 Qwen、Llama 等基础模型,训练出 1.5B、7B、14B 等规模的蒸馏模型。蒸馏后的轻量模型降低了显存需求与推理成本,能运行在笔记本电脑、智能手机等设备上。
Vals AI 分析了 Thinking Machines Inkling 2 Small 在 13 项基准测试共 2,655 次运行的思维日志,发现 50 次运行中出现 316 次 "fuck" 及其变体。
物理研究机构 PSI 宣布,借助 Anthropic 一款尚未发布的 AI 模型,其自研研究系统仅用三天证明了 2008 年提出的阿伦森-安拜尼斯猜想。PSI 未披露具体使用的模型;证明结果表明,量子计算要实现某些指数级速度优势必须依赖问题中的特殊规律或结构,量子计算机并非在所有情况下都能获得巨大性能优势。
推荐理由:原文交代了这项 2008 年提出的猜想被证明的含义,读者可据此判断量子计算机在何种条件下才能获得远超传统计算机的速度。
Jeff Dean在斯坦福HAI与李飞飞对谈时表示,RSI不可能以无限快的速度运行,因为训练、计算、保存数据和评估结果仍需要真实时间。他创办的公益公司Discovery Loop目前约有20个自动改进循环在运行,目标是让领域专家生产力提高20到50倍;他还承认低估了编程能力对模型解决各类问题的影响。
AI 市场回调加深,Anthropic IPO 估值预期最低降至 $1T,IPO 概率下调 18%;Anthropic 当前年化收入 $80B,距年底 $100B run rate 目标仍有差距。Latent Space 周末播客第二期与 Jamin Ball 讨论了 Anthropic IPO 的关键假设与教训。
Anthropic 发布研究文章《The components of agent memory》,将智能体记忆分为会话日志、记忆笔记、知识表征和注入上下文四层,并引入“做梦”机制,让 Claude 在两次交互之间回顾日志、纠错并更新知识库。
Infinite Evolution Lab 提出 Evolver,一个不改动模型参数、把 Agent 执行记录提取为可检索、可审核、可撤回策略资产的外部经验系统,Gene 保存行动指导,Capsule 关联执行案例,来源与使用资格独立维护。
Thinking Machines 发布第二代模型 Inkling 2 Small,号称西方最强开源权重模型。该混合专家模型总参数 594B、激活 17B,支持文本与图像输入及可调思考深度,Artificial Analysis 智能指数得 31 分,较上代提升 18 分,与 Gemini 3.8 Flash 相当。
墨芯人工智能完成近10亿元人民币C+轮融资,距上一轮近10亿元融资仅过去5个月。其专用稀疏推理芯片S30计算卡在所参与的部分MLPerf Inference测试类别中连续三届夺冠,2026年第三季度营收实现数倍增长。新一代板卡产品SP200将于年底前问世,升级版软件栈SECA也即将发布。
作者轻量化复刻 KIMI K3,设计并实现了基于 Kimi Delta Attention(KDA)的 serving 基础设施。KDA 用固定尺寸状态矩阵替代逐 token 的 KV cache,使 1M 上下文可负担,但也带来状态跨段不可加、无法截断回滚等挑战。项目通过统一页池、双粒度前缀缓存、KCP 前缀扫描与 Fleet 层调度解决这些问题,全 CPU 复刻并提供 Gradio demo。
webAI 开源 TwIL-8B 推理模型,该模型基于 IBM Granite-4.2-8B,以非商业许可发布,针对数学、代码与指令跟踪任务优化。TwIL-8B 在 MATH-500、AIME 2025 和 LiveCodeBench 上取得同组最佳成绩,数学表现超过参数尺寸数倍的 Gemma 4 31B,IFBench 成绩与 Gemma 4 12B 持平。
同一句话、同一个模型、同一台机器,连问 15 次得到 15 个不同答案;即使把 temperature 设成 0 并固定 seed,输出依然不稳定。为弄清原因,作者在本机跑了 254 次测试。
英伟达发布技术解读,提出以“全栈协同设计”应对 AI 内存瓶颈,将 GPU、CPU、网络、存储和软件整体协同。方案用 NVFP4 低精度格式压缩模型权重和 KV 缓存,在 NVL72 系统中把权重分散至最多 72 颗 GPU,由 Vera CPU 的 LPDDR 内存缓冲暂停上下文,Dynamo 推理软件将不活跃上下文迁移至 CMX 存储。