跳到正文
10月21日周三
  1. 掘金51

    Java AI 框架选型指南:六款主流框架分层拆解

    这篇文章按基础设施与 Agent 编排两个层级,拆解 Spring AI、LangChain4j、Solon AI、Spring AI Alibaba、AgentScope 和 Embabel 的定位与适用场景。基础设施层解决模型接入、向量库与工具调用问题,Agent 编排层解决多步骤任务的可靠性与可解释性问题。文末给出按 Java 版本、部署形态和确定性需求逐层收敛的选型决策路径。

  2. 博客园42

    7 个阶段、27 篇经典论文:一文看懂 Transformer 如何催生现代 LLM

    Transformer 从 2017 年的机器翻译架构到现代 LLM 通用推理引擎的演进可归纳为七个阶段,27 篇经典论文串联起这条完整脉络。BERT 与 GPT 确立先预训练、再微调的范式后,模型相继突破长文本限制、统一生成任务,并扩展至视觉、语音与代码多模态。GPT-3、InstructGPT、DPO 及 DeepSeek-V3/R1 则进一步推动超大模型、人类对齐与强化推理。

  3. 掘金29

    GitHub 日榜趋势速报(2026-10-21):DeepInfer 登顶,24h Star 增量 +11,981

    DeepSeek 开源的高性能离线推理框架 DeepInfer 登顶本期 GitHub 日榜,24h Star 增量 +11,981。该框架针对 DeepSeek-V4.1-Flash 模型提供优化算子、并行调度与确定性采样,支持 NVIDIA SM100 GPU 与华为 Ascend 950 NPU,面向企业级大规模、低延迟推理部署。本期榜单共 20 个开源项目,增长前三合计 +21,344。

  4. The Decoder81

    DeepSeek 开源推理引擎 DeepInfer,支撑 V4.1-Flash 模型

    DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,它是支撑 V4.1-Flash 模型快速响应的推理服务软件。该框架基于 vLLM,提供优化计算内核、多芯片分布式处理和更快的文本生成技术;DeepSeek 同时发布 deepseek-recipe,用于复现官方 API 的 token 处理方式,使自托管环境表现一致。

    推荐理由:DeepInfer 基于 vLLM 做内核与分布式优化,配合 deepseek-recipe 让自托管行为对齐官方 API,为降低推理成本提供了可直接复用的方案。

  5. Hugging Face Blog79

    TorchTPU 发布,Hugging Face 生态原生支持 TPU

    Hugging Face 宣布 TorchTPU 为 PyTorch 增加原生 TPU 后端,Transformers、Diffusers 和 Kernels 无需 torch_xla 或 Optimum TPU 即可在 TPU 上运行,加载 Hub 模型只需设置 device_map 为 tpu。

    推荐理由:原文对比了 torch_xla 旧方案并给出 device_map=tpu 等迁移细节,读者可评估现有 PyTorch 代码上 TPU 的改造成本。

10月20日周二
  1. 掘金44

    AI Agent 教程附录 E:推荐阅读与资源

    AI Agent 教程附录 E 按主题汇总五类经时间检验的资源:基础论文、工程指南、框架官方文档、基准与基础设施,每项附一句话说明价值。论文部分涵盖 CoT、ReAct、Reflexion、MemGPT、AutoGen 等奠基工作,指南部分收录 Anthropic《Building Effective Agents》及 MCP、A2A 官方规范。

  2. 掘金76

    Remotion / GSAP+Three / HyperFrames / Skia 四栈实测:代码渲染知识视频的选栈方法(附开源技能)

    作者用同一套视觉元素在 Remotion、Remotion+GSAP+Three、HyperFrames、React Native Skia 四条技术栈各渲染一条 720×1280 / 30fps 样片,抽帧质检全部通过,并整理出 32 项 × 4 栈共 128 格能力矩阵。

    推荐理由:同一套视觉元素四栈并排实测并给出 32 项能力矩阵,选栈方法与抽帧质检脚本可直接迁移到自己的代码渲染视频项目。

  3. 掘金35

    状态机驱动长事务,还是 DAG 编排高并发?高可靠业务流程引擎的双核架构设计

    “宏观状态机治理长生命周期、微观 DAG 驱动高并发异步任务”的双核流程引擎架构,配套开源 Lab 14 实战工程,完整验证 Kahn 算法动态调度与 Saga 逆序补偿闭环。宏观 FSM 以乐观锁管理流程实例顶层状态,微观 DAG 基于 Kahn 算法实时维护节点入度,入度归零即并发发射至线程池。节点执行与状态跃迁均同步写入事务性事件账本,重启后 Watchdog 重放事件流即可断点续跑。

  4. 掘金58

    15 万 Star 的 REA 火了:拆开看 AI 逆向工程的能耐与天花板

    REA 是一个用 AI 做安卓应用逆向分析的开源工具,一个多月冲到 15 万+ Star。作者认为 AI 带来代码语义理解、动态分析 Agent 化编排和多模态 UI 理解三个质变,但云端校验、反调试对抗与上下文窗口构成明确天花板。作者判断其价值在于把安全分析成本降低一个数量级,并倒逼关键逻辑上云与运行时防护升级,而非软件已死。

  5. IT之家77

    DeepSeek 宣布将内部推理框架 DeepInfer 全面开源

    DeepSeek 官宣将内部推理框架 DeepInfer 全面开源,并同步开源生产级 Token 编解码组件 deepseek-recipe。DeepInfer 集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出,兼容英伟达与华为昇腾平台,已支撑 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。

    同一新闻,精选展示《DeepSeek 开源推理引擎 DeepInfer,支撑 V4.1-Flash 模型》

  6. 掘金42

    docker-gitops:把服务器当代码管

    作者公开 docker-gitops 仓库,把三台服务器当程序管理:运行内容以 Git 为准,改动走 commit 和 push,不再 SSH 手动修改。四个实际生效的做法包括防火墙脚本、agent skill、每日两次巡检和 README 地雷图。作者的结论是只拿来跑的软件放 Compose,自己写的软件放 Kubernetes。

  7. 掘金50

    CubeStudio 分布式训练调度与加速架构解析

    CubeStudio 解析了云原生分布式训练的调度与加速设计,核心是用 CRD+Operator 按需自动建集群,配合亲和反亲和、修正 kube-scheduler 打分策略和 kube-batch/volcano 的 gang 调度避免资源死锁。GPU 利用率低多因 CPU 操作阻塞,平台给出数据加载优化、DALI 预处理、共享 GPU 与资源动态调整等手段,目标是让多机算力线性转化为训练速度。