跳到正文

技术方向

端侧 AI 最新动态

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

51 条精选近 30 天 26 条共收录 497 条

更新

精选归档 · 第 3 页

10月14日周三第 41–51 条
  1. Google DeepMind62

    Google DeepMind 与新加坡政府合作构建诈骗检测微调模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作,交付了一款针对本地诈骗手法微调的端侧诈骗检测模型,可在普通智能手机上本地分析会话,检测到操纵意图时直接在设备上实时警告用户。

    推荐理由:该方案用两阶段流水线把分析留在端侧,并以主权沙箱和匿名数据规避隐私争议,为消息平台兼顾安全与端到端加密提供了可迁移的落地路径。

  2. Hugging Face Blog65

    Liquid AI 发布 LFM2.5-24B-A2B,24B 参数仅 2B 激活的端侧推理模型

    Liquid AI 发布 LFM2.5-24B-A2B,一个总参数 24B、每 token 仅激活 2B 的端侧推理模型,面向快速、私有的智能体场景。它在 LiveClaw 上以 48.09 分领先 Qwen3.6-35B-A3B 的 38.19 分,上下文窗口从 32K 扩展到 131K,预训练数据从约 17T 增至约 33T tokens。

    推荐理由:总参数 24B 但每 token 仅激活 2B,在智能体与工具调用任务上与参数量约多五成的 MoE 持平,适合在自有硬件上持续运行智能体。

  3. IT之家76

    苹果 Apple Watch 睡眠呼吸暂停功能正式上线

    苹果通过 OTA 推送新系统,升级 iOS 与 watchOS 后,Apple Watch 用户即可开通睡眠呼吸暂停功能。该功能已获国家药品监督管理局批准为二类医疗器械,支持 Series 9、Ultra 2 和 SE 3 及后续表款;它通过加速度感应器捕捉手腕细微肌肉活动并换算为呼吸紊乱指数,以 30 天为评估周期向用户发出风险提示。

    推荐理由:原文给出了该功能基于加速度传感器的技术路线与临床验证数据,读者可据此了解其筛查能力边界与实际使用门槛。

10月13日周二
  1. NVIDIA Blog77

    NVIDIA RTX Spark 笔记本即将上市,全球 PC 应用生态完成适配

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,首发覆盖数千款应用、游戏与模型,并同步推出一批面向本地 AI 智能体的软件更新。Nemotron 3.5 Bolt 74B 是专为 RTX Spark 本地智能体打造的 74B 参数 MoE 模型,以 2-bit 量化压入 24GB 显存并将完全开源,10 月 15 日发布。

    推荐理由:原文梳理了 RTX Spark 上市首日的软件生态清单,读者可据此判断本地 AI 智能体在端侧落地的成熟度。

10月9日周五
10月8日周四
10月7日周三
  1. Google DeepMind76

    EmbeddingGemma 2 发布:开源轻量级多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、740M 参数的开源轻量级多模态嵌入模型,采用 Apache 2.0 许可,可将文本、图像、音频和视频统一映射到同一嵌入空间。

    推荐理由:原文给出了参数量、模态拆分与量化后的内存占用,便于读者判断它能否直接落到自家端侧检索链路中。

10月6日周二
10月2日周五
9月24日周四
  1. Google DeepMind63

    Google DeepMind 为 Private AI Compute 引入安全的服务端持久记忆

    Google DeepMind 宣布为 Private AI Compute 平台引入私密的服务端记忆层,让 AI 在跨设备间保持长期连续性的同时维持与端侧处理同级的隐私标准。

    推荐理由:原文给出安全飞地、加密通道与设备端密钥相结合的架构细节,可迁移到其他需要云上持久记忆的隐私保护设计中。