跳到正文
10月20日周二
  1. 掘金27

    玩转 征程6 算法工具链:PTQ 工具 hb_verifier 使用指南

    hb_verifier 是地平线征程6算法工具链提供的模型一致性验证工具,用于比较模型在 PTQ 转换各阶段的计算结果,精准定位误差引入环节。它支持对 ONNX 与 HBIR(BC)模型进行逐节点余弦相似度比较,以及对 BC 与 HBM 模型进行最终输出一致性验证。用户可指定开发板 IP 让 HBM 在真实板端推理,从而排查结果异常来自模型本身还是执行环境。

  2. IT之家18

    王腾创业首款产品:ISHO Ring 今日宜休智能戒指亮相,镶嵌蓝宝石玻璃

    今日宜休(王腾创业公司)宣布将于 10 月 29 日 19:00 举行 AI 睡眠科技生态产品发布会,并揭晓首款产品 ISHO Ring 智能戒指。该戒指为金色外观,外侧配有疑似按钮或指示灯部件,内侧搭载多个传感器用于感知身体数据。官方表示将打通从感知、分析到行动建议与设备联动的睡眠解决方案闭环。

  3. 掘金41

    谁是 AI-relay App 的真正威胁 —— 肘子的 Swift 周报 #158

    作者认为,"精美 UI + 可提炼规则 + 第三方云端模型"的 AI-relay App,其真正竞争对手正从商业模仿者转变为基础大模型服务商本身。随着生成式 UI 与 Plugins/Skills 普及,用户更倾向为一揽子大模型订阅付费,而非为每个垂直场景分别付费。作者以 Claude Code 无需额外提示即可自动推进个人工作流为例,提醒开发者审视产品中来自"非 AI 模型端"的壁垒。

  4. 掘金57

    用 YOLOv8n + 自研二分类模型做课堂行为识别:从 9000 张标注数据到 Flask 全栈落地

    作者复盘校园课堂行为识别项目 EduBot,采用 YOLOv8n 人员检测加 5 个自研二分类模型的两级流水线,并用 Flask 完成全栈部署。项目用约 9000 张密集行人图像横向对比 Faster-RCNN 系列 4 个变体和 YOLO 系列 4 个版本后选定 YOLOv8n;趴桌、耳语等低召回行为在系统里降级为趋势提示并要求连续多帧命中。

10月19日周一
  1. 掘金49

    llama.cpp 本地运行 9B 模型:部署、工具调用与微调数据

    在本地用 llama.cpp 运行 9B 模型并接入自托管 AI 工作区 Odysseus,需要将对话外壳、推理服务与工具执行器分层对接并逐一排错。9B 模型权重存储约为 18GB,4 bit 量化下约 4.5GB,实际部署还需叠加 KV cache 与应用占用来评估 36GB 设备的可行性。工具调用的可见轨迹经清洗后可构造为微调数据,但训练前须先排除模板与接口问题。

  2. IT之家43

    古尔曼:苹果正研发室内摄像头,依靠 AI 分析环境

    彭博社记者马克·古尔曼透露,苹果正在研发内部代号 J450 的室内摄像头,可利用 AI 分析周围环境。该摄像头拥有低帧率传感器和红外传感器,支持人脸识别,向用户发送环境文字描述而非视频画面,核心设计理念与隐私保护有关。古尔曼预计该产品将于明年某个时候推出,且不属于 10 月 13 日公布的 Home Collection 系列配件。

  3. 掘金55

    HarmonyOS 7 Agent 开发实战 06:Agent 记忆与上下文管理

    本篇在 HarmonyOS 7 Agent 开发系列中实现 MemoryConversationStore,把超出短期窗口的旧对话摘要归档为长期记忆,并按关键词召回后以系统提示回注模型上下文。文中区分了记忆与 RAG 的检索来源,并给出 @ohos.data.preferences、relationalStore 到向量库的三档持久化方案,以及先摘要再删除、系统提示常驻等六个避坑要点。

  4. 极客公园26

    客户为什么愿意为端侧 AI 买单?五位一线操盘手讲透了

    五位来自操作系统、应用、数据、整机与芯片领域的操盘手达成共识:客户为端侧 AI 买单的核心是数据隐私、私域化部署与使用体验,而非省 Token。养老、央企财税等场景表明,涉密与核心业务数据不能上传云端,本地安全是商业落地前提。后摩智能量产的 M50 已能本地运行 35B 大模型,行业仍需突破算力、带宽与功耗的「不可能三角」与生态适配难题。

  5. 少数派32

    派评:近期值得关注的 App

    本期《派评》推荐了多款 App,覆盖输入法、笔记、播客、Apple TV 工具与日历场景。紫毫 Hare 将 Rime 引擎与雾凇词库带入 iPhone 并主打开箱即用;Brink 用 AI 转译文稿帮助听众转化播客信息。Platen、TVScope 与 Chengyu Calendar 分别还原复古打字机书写、简化 Apple TV 录屏截图,并以每日一句成语呈现手撕日历。

  6. 少数派27

    与 Tim Cook 走进「蓝盒子」,了解 Mac 如何助力中国企业成长

    Tim Cook 上周四到访上海家居品牌蓝盒子,了解其以 iPad 和 Mac 支撑业务运转的实践。蓝盒子在 64GB 内存的 Mac mini 上本地部署 35B 参数的千问模型,员工用自然语言即可查询销售、库存等数据,部分原需一至两天的汇总现在几分钟内返回。公司还借助 Apple 商务实现零接触部署,新员工从拆开 Mac 到开始工作约需 12 分钟。

  7. IT之家46

    阿里速卖通联合天猫推出全球增长计划,将投资 AI 硬件新品牌

    速卖通与天猫在深圳年度峰会上启动“中国品牌全球增长计划”,目标为 500 个头部品牌提供增量,美的、海尔、TCL 等十余个品牌已加入。速卖通拟对优秀 AI 硬件品牌进行天使轮投资并配套 Brand+ 支持,目标扶持超 100 个品牌,同时为 1000 余家工厂品牌提供一站式托管服务。平台还定下未来三年品牌数与品牌 GMV 每年双 50% 增长的目标。

  8. 掘金76

    用 GFPGAN 与 Real-ESRGAN 在 CPU 本地修复老照片

    作者用 Python 在本地部署腾讯 ARC 实验室的 GFPGAN v1.4 与 Real-ESRGAN,无需显卡即可一键修复模糊老照片。GFPGAN 负责修脸,Real-ESRGAN 负责背景 4 倍超分,CPU下单张照片约 4-8 秒出图,照片不离开电脑。

    推荐理由:作者给出了纯 CPU 可跑的老照片修复方案,并填平了依赖安装和权重下载的具体坑,可直接照着复现。

10月18日周日
  1. IT之家33

    世界银行:小型 AI 有望改变发展中国家

    世界银行敦促发展中国家开发小型 AI 模型,使其能在网络连接较差地区通过端侧模式运行于手机等设备。世界银行首席知识官 Paschal Donohoe 表示,AI 有望让部分国家原本需要数百年实现的经济发展在数十年内达成,但前提是根据当地需求调整。以印度农业计划 AgriConnect 为例,当地农民已可用手机运行小型 AI 分析土壤,让作物成长得更快。

  2. 掘金63

    桌宠点击反应:把一坨 if 拆成「归一化 → 门控查表 → 执行 → 广播」

    作者把桌面 AI 应用桌宠的点击交互从六段重复的事件处理代码重构为四段式管道:归一化、纯函数门控、配置表执行、事件广播。门控前置让不合格事件在构造动作前被丢弃,判断逻辑不依赖渲染器即可单测;执行器故意只做类型分发,避免双重节流。按住类交互借用开源项目 VPet 的 A_Start、B_Loop、C_End 三段式状态机,收尾时强制取消限时表情。

  3. 掘金62

    本地模型升级后旧提示词全失效:版本与提示词一起钉死怎么验收

    作者提出本地模型升级时把模型版本和提示词绑在一起验收,用记录模型名、量化方式、上下文长度和采样参数的运行名片,配合按版本分目录的提示词管理。升级前准备格式题、拒答题、术语题等探针题重跑,新旧环境并行一天再切流量。实践发现一半所谓提示词失效其实是新模型行为变化,另有采样参数被安装器改回默认值的情况,分开定位后只改了两处措辞。

  4. 掘金46

    扩散式语言模型如何在单卡 RTX 5090 上跑出 2788 tokens/s

    海外本地模型社区在单张 RTX 5090 上把扩散式语言模型(dLLM)跑到 2,788 tokens/s,关键在于扩散式模型可一次并行更新一批 token,而非像自回归模型那样逐 token 串行生成。该速度来自受控测试,推理引擎、模型权重和部署工具仍处早期,短期内难以直接落地产品。它证明"单卡实时生成"这条路可行,可作为日后做实时翻译、本地客服等即时功能时的判断信号。

  5. 掘金52

    扫描 PDF 看得见却搜不到?用 Tesseract.js + PDF.js 生成可搜索 PDF

    作者介绍了在浏览器中把扫描 PDF 转成可搜索 PDF 的完整管线:先用 PDF.js 逐页渲染到 Canvas,再用 Tesseract.js 识别并输出带隐藏文字层的单页 PDF,最后用 pdf-lib 合并。文中给出复用单个 Worker、单页 1600 万像素渲染上限、及时释放 Canvas 与加载资源等实践细节,并强调可编辑文本与 PDF 隐藏文字层需分开处理。

  6. NVIDIA Blog68

    NVIDIA RTX Spark 笔记本全球上市,起售价 2,399 美元

    NVIDIA RTX Spark 笔记本现已上市,将 Blackwell RTX GPU 与 Grace CPU 整合为单颗超级芯片,提供最高 1 petaflop AI 算力和最高 128GB 统一内存,起售价 2,399 美元。

    推荐理由:原文列出了 RTX Spark 笔记本的售价、硬件配置与本地 AI 能力,读者可据此判断其是否适合作为便携本地 AI 工作站。

  7. IT之家51

    联想 P7 AI 主机 1024 开启预约:此芯 P1 SoC + 后摩 M50 dNPU 方案

    联想宣布 AI 主机 P7 将于 1024“程序员日”14:30 在长沙智谷举行超能创享会,同日开启新品预约。该机基于此芯科技 P1 SoC + 后摩智能 M50 dNPU 方案,具备 190TOPS 本地 AI 算力,支持 122B LLM 本地部署,上下文窗口可达 128K,本地推理能力达 50TPS;机身质量仅 300g,整机最大功耗 30W,运行噪音 < 35dB(A)。