跳到正文
  1. Hugging Face Blog77

    Inkling 2 Mini 发布,为本地部署提供前沿性能

    Hugging Face 与 Thinking Machines Lab 联合发布 Inkling 2 Mini,一款面向本地部署的多模态 MoE 模型,物理参数约 26B、每 token 激活 3B,支持 1M token 上下文。

    推荐理由:原文详解了循环层与跨轮消息机制如何让 24 个物理层达到 48 层逻辑效果,可迁移到其他端侧模型设计。

  1. AWS Machine Learning Blog67

    Amazon Bedrock AgentCore payments 新增 AWS Billing,AI 智能体可购买 AWS Marketplace x402 产品

    AWS 为 Amazon Bedrock AgentCore payments 新增 AWS Billing 支付方式,AI 智能体可按请求购买 AWS Marketplace 上支持 x402 的软件、API、数据与内容,费用以 USD 结算到开发者 AWS 账单,无需稳定币钱包或 API key。

    推荐理由:原文给出智能体按请求付费的完整链路与单会话限额机制,读者可据此评估 agentic commerce 在企业内的落地方式。

  2. AWS Machine Learning Blog63

    Amazon SageMaker AI 推出跨区域推理路由,区域容量不足时自动转移推理流量

    AWS 为 Amazon SageMaker AI 推出跨区域推理路由,应用调用一个 inference router 即可访问多个 Region 和 AWS 账户下已运行的端点;本地目标健康时流量留在本 Region,目标无法可靠服务时新请求自动转移到其他已注册目标,恢复后再逐步回迁。

    推荐理由:原文把健康度评分、故障转移和回迁策略讲得较细,读者可判断能否用它替换自建的跨区域路由代码。

  1. AWS Machine Learning Blog71

    Airbnb 如何以单任务成本在 Amazon Bedrock 上运营编码智能体

    Airbnb 分享了如何用单任务成本(cost per task)在 Amazon Bedrock 上评估并运营内部编码智能体 AirChat。发布前对每个模型和推理强度跑自建任务评测,同时记录分数与单任务成本;发布后用 CloudWatch 的延迟、限流和 token 指标对照评测结果排查问题。

    推荐理由:原文给出了一套把评测分数和单任务成本结合起来选模型、再用生产数据回检的完整方法,可直接迁移到自己的编码智能体运维。

  2. AWS Machine Learning Blog63

    Amazon SageMaker JumpStart 推出模型排行榜

    AWS 在 SageMaker Studio 中推出 JumpStart 模型排行榜,可横向比较 70 多个开放权重模型的质量、速度和成本,模型来自 Meta、Google、Qwen、IBM 和 Arcee 等提供商。

    推荐理由:原文说明排行榜如何用统一方法测量质量、速度与成本,读者可据此建立从筛选到部署的选型流程,不必再拼接不同来源的数据。

  1. NVIDIA Blog70

    NVIDIA RTX Spark 紧凑型桌面主机正式上市

    NVIDIA 宣布来自 ASUS、Dell 和 MSI 的 RTX Spark 紧凑型桌面主机现已上市,为本地 AI 智能体、图像与视频生成及模型微调提供专用 Windows PC。

    推荐理由:原文列出了硬件规格、本地模型规模上限和软件生态适配,读者可据此判断它能否承接现有本地 AI 工作流。

  2. AWS Machine Learning Blog68

    降低 Amazon Bedrock AgentCore JSON 工作负载的 token 成本与延迟

    AWS 与 Flightscape 分享三种可组合的优化策略,让处理 20 MB+ JSON 负载的生产级智能体显著降低 token 成本与延迟。三种策略分别是把重型工件卸载到 Amazon S3 并只持久化内容寻址引用、对超大列表结果按需分页、用结构描述符压缩超大字典输出。

    推荐理由:三种可组合策略把大 JSON 负载移出模型上下文并附完整代码,处理类似负载的智能体团队可直接迁移复用。

  3. AWS Machine Learning Blog61

    AWS:规则交给代码、判断交给模型,削减生成式 AI 成本

    AWS 官方博客提出,生成式 AI 工作流最大的成本杠杆是先判断每个步骤是否需要调用模型:能用规则校验的步骤交给确定性代码,固定选项的决策用受限决策调用并设置升级信号,只有开放式任务才交给规格合适的 Amazon Bedrock 模型。

    推荐理由:原文提供了一套可迁移的步骤级决策框架,读者可对照自己的工作流找出不必调用模型的环节以降低成本与延迟。

  4. AWS Machine Learning Blog62

    用 Amazon Bedrock AgentCore 和开源 SMART 构建 WhatsApp AI 智能体

    AWS 开源 SMART(Social Messaging Agent Runtime Toolkit),一个 Python SDK 加 Terraform 栈。

    推荐理由:原文逐项列出 WhatsApp 渠道集成的难点并给出开源 SDK 的对应解法,读者可据此判断是否引入 SMART 压缩集成工期。

  1. AWS Machine Learning Blog60

    多智能体设计模式分类、反模式与制造业经验

    AWS 解决方案架构师系统梳理多智能体设计模式,将协调模式分为路径预定义的 Tier 1 与模型运行时选路的 Tier 2,并给出从单次模型调用到自治多智能体的选型决策树。

    推荐理由:文章将多智能体协调模式分为确定性控制流与模型自治两层,并给出选型决策树与五个反模式,可直接迁移到自己的架构选型。

  2. Hugging Face Blog84

    Hugging Face 与 OpenRouter 合作,Inference Providers 切换至 OpenRouter 路由

    Hugging Face 将 Inference Providers 的语言模型路由切换至 OpenRouter,用户用 Hugging Face token 即可通过统一 API 调用服务商托管的开放权重模型。

    推荐理由:原文同时给出路由切换细节和开放权重模型使用占比数据,读者可据此评估统一推理入口对现有工作流的影响。

  3. AWS Machine Learning Blog70

    Amazon Bedrock Guardrails Denied Topics 编写最佳实践

    AWS 官方博客系统总结了 Amazon Bedrock Guardrails 中 Denied Topics 的八条编写最佳实践,指出误拦多源于按主题域而非用户意图组织话题。

    推荐理由:文章把误拦问题归因到四种常见写法并给出八条可迁移的编写规范,读者可直接对照自查自家护栏的拒拦边界。

  1. Google Research84

    Google 借 Antigravity /teamwork 在科学与工程领域取得多项突破

    Google Research 报告称,Antigravity /teamwork 多智能体工作流结合 Gemini 4 Argon 等模型,在数学、形式化验证、分子化学和系统工程领域取得一系列成果,相关工具已开始向外部研究者和开发者开放。

    推荐理由:原文用大量实例说明并行探索加独立证伪器的多智能体模式如何攻克多年未解难题,读者可据此设计自己的验证式工作流。

  1. Hugging Face Blog73

    llama.cpp v1.0.0 发布:为本地 AI 生态提供更稳固的基础

    llama.cpp 正式发布库 v1.0.0,同时 ggml 也发布 v1.0.0,标志着这一跨平台本地推理项目进入 API 稳定阶段。今后 llama.cpp 和 ggml 将通过主版本号反映公共 C API 和 ABI 的不兼容变更,并遵循语义化版本规则。

    推荐理由:v1.0.0 明确了 API 和 ABI 稳定性承诺,依赖 llama.cpp 的下游应用可以据此规划升级与集成。

  2. AWS Machine Learning Blog71

    在 Amazon Bedrock 上优化单任务成本并验证智能体 ROI

    AWS 解决方案团队提出按任务而非按 token 核算 Amazon Bedrock 智能体成本,并给出验证智能体 ROI 的完整框架。文中拆解分词器效率、输出冗余、智能体循环和推理开销四个隐藏成本驱动因素,示例中标价高一倍的模型单任务成本反而低 65%。

    推荐理由:原文给出按任务而非按 token 核算成本的完整框架,读者可直接迁移到自己的智能体项目上衡量投入产出。

  1. AWS Machine Learning Blog64

    在 Amazon SageMaker HyperPod 上检测并恢复分布式训练中的静默数据损坏

    AWS SageMaker HyperPod 团队在 PyTorch DDP 训练循环中加入三项检查来捕捉静默数据损坏(SDC):非有限梯度检查、环形重放审计和权重指纹比对,报警后把嫌疑 rank 映射到节点并由 HyperPod 替换。

    推荐理由:原文给出了一套可直接落地到 PyTorch DDP 训练循环的 SDC 检测与节点替换流程,并附上注入故障的实测开销和误报数据。

  2. AWS Machine Learning Blog66

    UAEF:框架无关的 AI 智能体闭环评估系统

    AWS 开源 UAEF,一个框架无关的 AI 智能体闭环评估系统。它通过适配器把 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 等框架的执行轨迹归一为统一格式,再用 7 个维度共 36 项内置指标打分,结果存入 Amazon DynamoDB 与 Amazon S3 以支持跨版本比较和回归检测。

    推荐理由:原文把框架无关的闭环评估拆成适配器、指标和实验对比三层,读者可照此思路搭建自己的智能体评测流水线。

  1. Microsoft Research79

    微软研究披露 Lazarus:重编程休眠神经元可给 AI 智能体植入后门

    微软研究人员发现名为 Lazarus 的后门技术:只需重编程 LLM 中不到 10 个休眠神经元、无需训练,就能让基于该模型的智能体在隐藏触发条件出现时执行攻击者命令,且模型仍能通过标准安全评测。

    推荐理由:原文给出了只需重编程少数休眠神经元即可植入后门的机制,读者可据此理解权重审计与来源校验为何是关键防线。