跳到正文
10月20日周二
  1. 掘金42

    docker-gitops:把服务器当代码管

    作者公开 docker-gitops 仓库,把三台服务器当程序管理:运行内容以 Git 为准,改动走 commit 和 push,不再 SSH 手动修改。四个实际生效的做法包括防火墙脚本、agent skill、每日两次巡检和 README 地雷图。作者的结论是只拿来跑的软件放 Compose,自己写的软件放 Kubernetes。

  2. 掘金54

    RAG 系统中向量化、召回与重排序服务的实现

    本文围绕企业知识库问答场景,给出 RAG 检索链路中向量化、召回与重排序服务的完整设计与代码实现。核心做法包括用 Embedding Profile 和索引代次管理向量空间,向量与关键词混合召回并用 RRF 合并候选,再由 Reranker 重排序并压缩上下文,同时将租户、权限和文档状态过滤前置。文章还给出 Recall@K、MRR、NDCG 评估指标以及超时、缓存、重试和降级等工程策略。

  3. 掘金27

    玩转 征程6 算法工具链:PTQ 工具 hb_verifier 使用指南

    hb_verifier 是地平线征程6算法工具链提供的模型一致性验证工具,用于比较模型在 PTQ 转换各阶段的计算结果,精准定位误差引入环节。它支持对 ONNX 与 HBIR(BC)模型进行逐节点余弦相似度比较,以及对 BC 与 HBM 模型进行最终输出一致性验证。用户可指定开发板 IP 让 HBM 在真实板端推理,从而排查结果异常来自模型本身还是执行环境。

  4. 掘金50

    CubeStudio 分布式训练调度与加速架构解析

    CubeStudio 解析了云原生分布式训练的调度与加速设计,核心是用 CRD+Operator 按需自动建集群,配合亲和反亲和、修正 kube-scheduler 打分策略和 kube-batch/volcano 的 gang 调度避免资源死锁。GPU 利用率低多因 CPU 操作阻塞,平台给出数据加载优化、DALI 预处理、共享 GPU 与资源动态调整等手段,目标是让多机算力线性转化为训练速度。

  5. 掘金77

    Agent harness 架构六层拆解:上下文、编排、工具、模型、状态、观测

    作者把 Agent harness(模型之外的运行时)拆成上下文、编排、工具、模型、状态、观测六层,每层给出职责和一个可落地的工程判断,其中五层配 gofmt 和 go vet 通过的 Go 代码。核心主张是同一模型下 harness 粗细决定线上表现,副作用必须收口、权限不能交给模型,规划归模型、执行归代码。文末给出按六层的故障排查顺序和常见症状对照表。

    推荐理由:原文把 Agent harness 拆成六层并给出可编译的 Go 代码与每层工程判断,读者可直接对照自己的项目落地。

  6. 掘金31

    从单点探索到规模化运营:滔搏体育的企业级多智能体实践

    滔搏体育基于 AgentCore 与 AgentLoop 搭建企业级多智能体运营底座,将零售经验沉淀为可复用 Skill 与专业 Agent,覆盖一线练货、线索挖掘和门店经营场景。单月练货涉及商品超 5700 件、练货次数超 39 万次,店长单次经营分析耗时从 2 小时缩短至约 20 分钟。借助 AgentLoop 评估反馈与业务、IT、AI 团队共同运营机制,已验证能力可跨门店、跨岗位持续复用。

  7. 掘金28

    模型能力波动怎么办?网关侧做模型质量监控与自动切换

    应对大模型能力波动,可将质量监控与自动切换下沉到网关侧:网关统一采集响应时间、成功率、超时率等指标,结合业务结果评估输出质量,异常时自动将请求路由到备用模型。多模型兜底是切换的前提,通过 XApex 这类统一 API 平台一次接入可覆盖 OpenAI、Claude、Gemini、DeepSeek、Qwen、GLM 等主流模型,沉淀的表现数据还能反哺后续选型与调度。

  8. 掘金74

    用 Ragas 量化评估 RAG 系统效果

    Ragas 是一个以 LLM 作为评判者的开源评估框架,把 RAG 系统的表现拆成检索质量、生成质量、事实正确性三条主线,每条给出可比的 0~1 分数。接入时只需让 RAG 流程额外输出 retrieved_contexts 等中间产物,不改检索和生成逻辑;无参考指标可零标注起步,有参考指标才能回答答得对不对。

  9. 掘金44

    AI 对话导出工具自制指南(1):需求与 Tampermonkey 选型

    作者为把 AI 对话导出为干净的 Markdown,放弃因 DOC 文本框导致代码块丢失的 Pandoc 转换方案,选定 Tampermonkey 用户脚本路线。该方案在页面最早阶段注入代码拦截 XHR 和 Fetch,直接捕获结构化的原始 JSON 再组装成 Markdown。专栏将交付可直接运行的脚本,目前适配腾讯元宝平台。

  10. 掘金72

    我给网关加了计量埋点,才发现限流配错三个月,下游账单多烧了两倍

    作者给公司 AI 客服网关补做计量埋点后,发现限流配置失误让下游 LLM 账单在三个月内翻倍。根因是只记总量、不按租户、模型、状态拆维度,且漏记 429 与重试、时延只存平均值,导致缓存命中率从 87% 掉到 0 也无人察觉。文章给出按维度切分指标、用 Histogram 存时延看 p99、拆分 cached 与 uncached token 的修复方案。

  11. 掘金82

    Deno 的八年:一场没逃出 Node 引力的运行时起义

    2026 年 10 月 9 日,Deno 团队整体加入 Cloudflare,运行时再维护一年、Deno Deploy 六个月后关停、JSR 保留。文章复盘这家融资 2600 万美元、拿下 10 万星的运行时为何在第八年停下,指出败因不在性能,而在于迁移成本、部署错配与生态流动性:Deno 2 全面兼容 Node 反而削弱了迁移理由,JSR 撞上 npm 的网络效应护城河。

    推荐理由:通过与 Bun、Node 的对照,文章把 Deno 停下的原因拆成迁移成本、生态流动性与买家动机三层,可迁移到其他技术选型判断。

  12. 博客园65

    百万并发直播弹幕系统设计全解:看懂了扇出,你就看懂了高并发的八成

    这篇长文把百万并发直播弹幕系统拆成五层,逐层给出 Netty 网关调优、Kafka 独立 consumer group 广播语义、CAS 环形缓冲削峰等核心代码。核心思路是用节点级扇出、本地房间表和时间窗聚合把约 100 万次网络调用降到约 100 次,再以推拉结合、分级可靠与四层限流应对脉冲峰值。

  13. 量子位34

    日均6万亿Token服务背后,商汤大装置如何提升推理效能?

    商汤大装置通过PD分离与异构混合调度构建万卡级异构推理集群,在特定测试配置下将整体Token吞吐量提升至原来的5倍,目前日均Token服务量达6万亿。其正进一步探索跨域PD分离与AF分离,后者有望带来单卡吞吐提升150%至200%、运营成本降低30%至40%。商汤大装置预计全年Token服务规模实现25倍增长,第四季度达日均10万亿Token。

  14. 量子位33

    AI 开始挑战最复杂的系统:生命——从分子模型走向生命世界模型

    AI 生命科学正从单点分子建模转向预测完整生命系统变化的“生命世界模型”。美国 Biohub 联合能源部、NIH、Meta、Google DeepMind 等承诺投入 18 亿美元搭建生命预测模型的数据底座;10 月 17 日哲源科技发布 WHIRLPO 计算医学平台,整合异构算力、多组学数据与实验验证链路,支撑此类模型的训练与运行。国内也已将计算医学首次纳入“十五五”医药工业重点技术方向。