一个即时通讯项目是怎么长出来的:Spring Boot 3 + Vue 3 微前端 + 悟空 IM + LiveKit
作者复盘了自研 IM 系统「飞鸽」的架构选型与上线过程:后端 Spring Boot 3 多模块、前端 Vue 3 + qiankun 微前端、媒体面自建 LiveKit SFU,呼叫信令复用悟空 IM 长连接而不新起信令服务器。
作者复盘了自研 IM 系统「飞鸽」的架构选型与上线过程:后端 Spring Boot 3 多模块、前端 Vue 3 + qiankun 微前端、媒体面自建 LiveKit SFU,呼叫信令复用悟空 IM 长连接而不新起信令服务器。
hb_verifier 是地平线征程6算法工具链提供的模型一致性验证工具,用于比较模型在 PTQ 转换各阶段的计算结果,精准定位误差引入环节。它支持对 ONNX 与 HBIR(BC)模型进行逐节点余弦相似度比较,以及对 BC 与 HBM 模型进行最终输出一致性验证。用户可指定开发板 IP 让 HBM 在真实板端推理,从而排查结果异常来自模型本身还是执行环境。
作者把 Electron 37 整个打包进鸿蒙 HAP,让 DeepSeek Harness 的官方 Web UI 逐字节复用、界面零重写。
作者用码道 Web 版做了一个本地单文件代码截图工具,双击即可离线导出带窗口边框的 PNG。默认 15 像素字号下导出宽度固定 3000 像素,一行超过 95 个半角字符会被窗口右边裁掉,导出高度上限 65535 像素,约 830 行代码封顶。
紫毫是一款基于 Rime(中州韵)引擎的 iOS 输入法,内置雾凇拼音,可导入 Rime 配置文件夹、ZIP、YAML、文本词典或 GitHub 仓库方案并在手机本地编译。
作者梳理了 9 月以来 Meta Muse、Manus Cue、OpenAI dots 和 Google Gemini agent 等发布,指出 AI 公司正在争夺用户有事时最先想到的助手位置。
作者用 Flutter GPU 和 flutter_scene 0.23.0 构建了 3D 酒店漫游与海岛两个演示项目,并在 iPhone 17 Pro Max(Flutter 3.47.2)上逐项测量各渲染效果的开销。
今日宜休(王腾创业公司)宣布将于 10 月 29 日 19:00 举行 AI 睡眠科技生态产品发布会,并揭晓首款产品 ISHO Ring 智能戒指。该戒指为金色外观,外侧配有疑似按钮或指示灯部件,内侧搭载多个传感器用于感知身体数据。官方表示将打通从感知、分析到行动建议与设备联动的睡眠解决方案闭环。
作者认为,"精美 UI + 可提炼规则 + 第三方云端模型"的 AI-relay App,其真正竞争对手正从商业模仿者转变为基础大模型服务商本身。随着生成式 UI 与 Plugins/Skills 普及,用户更倾向为一揽子大模型订阅付费,而非为每个垂直场景分别付费。作者以 Claude Code 无需额外提示即可自动推进个人工作流为例,提醒开发者审视产品中来自"非 AI 模型端"的壁垒。
作者复盘校园课堂行为识别项目 EduBot,采用 YOLOv8n 人员检测加 5 个自研二分类模型的两级流水线,并用 Flask 完成全栈部署。项目用约 9000 张密集行人图像横向对比 Faster-RCNN 系列 4 个变体和 YOLO 系列 4 个版本后选定 YOLOv8n;趴桌、耳语等低召回行为在系统里降级为趋势提示并要求连续多帧命中。
Nvidia 发布开源权重模型 Nemotron 3.5 Super VL 与两款 Bolt 轻量模型,分别面向企业级常驻智能体与 AI PC 本地运行。
在本地用 llama.cpp 运行 9B 模型并接入自托管 AI 工作区 Odysseus,需要将对话外壳、推理服务与工具执行器分层对接并逐一排错。9B 模型权重存储约为 18GB,4 bit 量化下约 4.5GB,实际部署还需叠加 KV cache 与应用占用来评估 36GB 设备的可行性。工具调用的可见轨迹经清洗后可构造为微调数据,但训练前须先排除模板与接口问题。
彭博社记者马克·古尔曼透露,苹果正在研发内部代号 J450 的室内摄像头,可利用 AI 分析周围环境。该摄像头拥有低帧率传感器和红外传感器,支持人脸识别,向用户发送环境文字描述而非视频画面,核心设计理念与隐私保护有关。古尔曼预计该产品将于明年某个时候推出,且不属于 10 月 13 日公布的 Home Collection 系列配件。
本篇在 HarmonyOS 7 Agent 开发系列中实现 MemoryConversationStore,把超出短期窗口的旧对话摘要归档为长期记忆,并按关键词召回后以系统提示回注模型上下文。文中区分了记忆与 RAG 的检索来源,并给出 @ohos.data.preferences、relationalStore 到向量库的三档持久化方案,以及先摘要再删除、系统提示常驻等六个避坑要点。
HarmonyOS 7 Agent 开发实战 07 在单设备上用 PlannerAgent、CriticAgent 与 Orchestrator 把“任务分解 + 自我反思”跑成可测试流水线:编排器单向调度三段纯逻辑,评审低于 0.6 分触发重规划,maxReplans=3 兜底终止。
BAAI/bge-m3 是智源研究院出品的 MIT 协议可商用向量化模型,覆盖 100+ 种语言,最大支持 8192 token,一次推理可同时输出稠密向量、稀疏权重和多向量。
五位来自操作系统、应用、数据、整机与芯片领域的操盘手达成共识:客户为端侧 AI 买单的核心是数据隐私、私域化部署与使用体验,而非省 Token。养老、央企财税等场景表明,涉密与核心业务数据不能上传云端,本地安全是商业落地前提。后摩智能量产的 M50 已能本地运行 35B 大模型,行业仍需突破算力、带宽与功耗的「不可能三角」与生态适配难题。
本期《派评》推荐了多款 App,覆盖输入法、笔记、播客、Apple TV 工具与日历场景。紫毫 Hare 将 Rime 引擎与雾凇词库带入 iPhone 并主打开箱即用;Brink 用 AI 转译文稿帮助听众转化播客信息。Platen、TVScope 与 Chengyu Calendar 分别还原复古打字机书写、简化 Apple TV 录屏截图,并以每日一句成语呈现手撕日历。
Tim Cook 上周四到访上海家居品牌蓝盒子,了解其以 iPad 和 Mac 支撑业务运转的实践。蓝盒子在 64GB 内存的 Mac mini 上本地部署 35B 参数的千问模型,员工用自然语言即可查询销售、库存等数据,部分原需一至两天的汇总现在几分钟内返回。公司还借助 Apple 商务实现零接触部署,新员工从拆开 Mac 到开始工作约需 12 分钟。
速卖通与天猫在深圳年度峰会上启动“中国品牌全球增长计划”,目标为 500 个头部品牌提供增量,美的、海尔、TCL 等十余个品牌已加入。速卖通拟对优秀 AI 硬件品牌进行天使轮投资并配套 Brand+ 支持,目标扶持超 100 个品牌,同时为 1000 余家工厂品牌提供一站式托管服务。平台还定下未来三年品牌数与品牌 GMV 每年双 50% 增长的目标。
StreamMark 是面向 Avalonia 的原生 Markdown 渲染库,不需要 WebView,可持续追加 AI 流式输出并组织多轮对话。文章基于 0.1.0-alpha.22 与 .NET 10、Avalonia 12.1.3,演示了 NuGet 安装、主题注册、代码高亮与 RaTeX 公式及 Mermaid 扩展插件接入。
10 月 19 日 GitHub Trending 上涨星最快的不是新模型,而是 5 个把 AI 装回本地工作流的开源项目。
作者开源了 Tidytalk,一个 macOS 菜单栏语音输入应用:按住 Option + Command 说话,松开后把去掉口头禅、改好口误、标点齐全的文字粘贴到光标处。
作者用 Python 在本地部署腾讯 ARC 实验室的 GFPGAN v1.4 与 Real-ESRGAN,无需显卡即可一键修复模糊老照片。GFPGAN 负责修脸,Real-ESRGAN 负责背景 4 倍超分,CPU下单张照片约 4-8 秒出图,照片不离开电脑。
推荐理由:作者给出了纯 CPU 可跑的老照片修复方案,并填平了依赖安装和权重下载的具体坑,可直接照着复现。
RapidOCR 是由国内 RapidAI 团队打造的开源 OCR 工具箱,将 PaddleOCR 模型转为 ONNX 格式,支持免费商用、CPU 离线推理与多平台多语言调用。文章给出 Python、桌面版和 Java 三种安装方式,并演示了 Web 应用与 Java 调用的识别效果。项目基于 Apache 2.0 许可证,在 GitHub 已获 8.1K star。
TKCode 是基于 .NET、Avalonia 与 AtomUI 构建的编程 Agent 桌面客户端,配套开发了流式 Markdown 组件库 StreamMark,统一接入本机 Claude Code、Codex 与内置 Agent。
世界银行敦促发展中国家开发小型 AI 模型,使其能在网络连接较差地区通过端侧模式运行于手机等设备。世界银行首席知识官 Paschal Donohoe 表示,AI 有望让部分国家原本需要数百年实现的经济发展在数十年内达成,但前提是根据当地需求调整。以印度农业计划 AgriConnect 为例,当地农民已可用手机运行小型 AI 分析土壤,让作物成长得更快。
作者在 DOS 6.22 上跑通了 Kimi 大模型,方案是 DOS 程序经 mTCP 发出请求,通过 QEMU 虚拟网关抵达 Windows 宿主机的 Python 代理,再由代理向 Kimi 官方 API 请求并把结果清洗成纯 ASCII 字符串返回 DOS 终端。
作者将自研 4 个月的本地优先 AI Agent 工作台 Real 开源,Rust 后端 + Tauri 2 桌面壳,几万行代码全部由 AI 生成、未手写一字。
作者用 C# 实现纯离线的 .NET 桌面 OCR 方案,把客户每周 6 小时的纸质单据 PDF 手工录入压缩到 20 分钟。
作者把桌面 AI 应用桌宠的点击交互从六段重复的事件处理代码重构为四段式管道:归一化、纯函数门控、配置表执行、事件广播。门控前置让不合格事件在构造动作前被丢弃,判断逻辑不依赖渲染器即可单测;执行器故意只做类型分发,避免双重节流。按住类交互借用开源项目 VPet 的 A_Start、B_Loop、C_End 三段式状态机,收尾时强制取消限时表情。
Meta 开放约 816B 总参数、激活约 42B 的 MoE 模型 Muse Spark Open 权重,官方文档显示两台 512GB 统一内存的 M5 Ultra Mac Studio 配 MLX 可在桌面运行,GPU 侧 NVFP4 量级仍需至少 700GB VRAM。
作者提出本地模型升级时把模型版本和提示词绑在一起验收,用记录模型名、量化方式、上下文长度和采样参数的运行名片,配合按版本分目录的提示词管理。升级前准备格式题、拒答题、术语题等探针题重跑,新旧环境并行一天再切流量。实践发现一半所谓提示词失效其实是新模型行为变化,另有采样参数被安装器改回默认值的情况,分开定位后只改了两处措辞。
海外本地模型社区在单张 RTX 5090 上把扩散式语言模型(dLLM)跑到 2,788 tokens/s,关键在于扩散式模型可一次并行更新一批 token,而非像自回归模型那样逐 token 串行生成。该速度来自受控测试,推理引擎、模型权重和部署工具仍处早期,短期内难以直接落地产品。它证明"单卡实时生成"这条路可行,可作为日后做实时翻译、本地客服等即时功能时的判断信号。
作者介绍了在浏览器中把扫描 PDF 转成可搜索 PDF 的完整管线:先用 PDF.js 逐页渲染到 Canvas,再用 Tesseract.js 识别并输出带隐藏文字层的单页 PDF,最后用 pdf-lib 合并。文中给出复用单个 Worker、单页 1600 万像素渲染上限、及时释放 Canvas 与加载资源等实践细节,并强调可编辑文本与 PDF 隐藏文字层需分开处理。
NVIDIA RTX Spark 系列笔记本于 10 月 16 日在全球六城同步开售,起售价 $2,399,定位为本地 AI 智能体而生的 Windows 电脑。
NVIDIA RTX Spark 笔记本现已上市,将 Blackwell RTX GPU 与 Grace CPU 整合为单颗超级芯片,提供最高 1 petaflop AI 算力和最高 128GB 统一内存,起售价 2,399 美元。
推荐理由:原文列出了 RTX Spark 笔记本的售价、硬件配置与本地 AI 能力,读者可据此判断其是否适合作为便携本地 AI 工作站。
美光正在研发面向物理 AI 的专用存储芯片 EIM(Edge Inference Memory),其架构在逻辑芯片之上垂直堆叠低功耗内存 LPDDR,旨在降低数据处理延迟并提高系统带宽。
联想宣布 AI 主机 P7 将于 1024“程序员日”14:30 在长沙智谷举行超能创享会,同日开启新品预约。该机基于此芯科技 P1 SoC + 后摩智能 M50 dNPU 方案,具备 190TOPS 本地 AI 算力,支持 122B LLM 本地部署,上下文窗口可达 128K,本地推理能力达 50TPS;机身质量仅 300g,整机最大功耗 30W,运行噪音 < 35dB(A)。
李未可 Lawaken X-AI 记忆眼镜开启预售,到手价 699 元起、最高 1099 元,机身重 26 克,支持最高 12 小时录音、128 种语言实时翻译和 25 种语言加 21 种方言转写。