LangChain 应用开发:用脚手架组装本地 LLM 应用
这篇教程演示如何用 LangChain 对接本地 Ollama,组装 Prompt → LLM → Parser 最小链路。LangChain 本身是纯 Python 胶水层、不占显存,推理全部发生在 Ollama 端。文中给出 RAG 各环节与 LangChain 组件的对应表,并建议项目只有一处 LLM 调用时不一定用框架,出现三件以上组件时框架才开始回本。
这篇教程演示如何用 LangChain 对接本地 Ollama,组装 Prompt → LLM → Parser 最小链路。LangChain 本身是纯 Python 胶水层、不占显存,推理全部发生在 Ollama 端。文中给出 RAG 各环节与 LangChain 组件的对应表,并建议项目只有一处 LLM 调用时不一定用框架,出现三件以上组件时框架才开始回本。
部分卷积(PConv)是 NVIDIA 在 ECCV 2018 论文中提出的卷积算子,通过掩码让卷积只计算有效像素并做幅值补偿,从源头解决缺失数据下的图像修复问题。其输出尺寸与标准卷积完全一致,掩码每层如形态学膨胀般向外扩一圈、空洞逐层收窄,可直接嵌入 U-Net 等现有网络。复用时需注意分母是有效像素个数而非权重和,且掩码必须逐层同步更新,否则空洞永不收窄。
本地知识库换资料后,作者固定只让「现行」目录进检索,删掉旧索引再重建,并用旧规定里的词搜一遍确认搜不到。清旧之后还在每页资料末尾加「短词对照」,用同事的口头说法跑补查,覆盖资料用词与问法不一致的情况。作者说明这套做法基于几页演示资料和最简单的字面匹配,但「旧版本必须退出检索」这条在规模更大时仍然成立。
有用户让 ChatGPT 读取 Adobe 订阅条款并生成谈判邮件,成功取消订阅并免掉违约金。文章认为这类工具的技术门槛不高,真正的护城河是长期积累的取消条款库与成功率数据,而非模型本身。相比直接"帮人退订",更稳的形态是"订阅体检":盘点订阅、标出即将续费项并给出取消路径,动作由用户自己完成以规避合规风险。
作者将企业级 Agent 平台入口路由中「从 N 个候选里选一个」的判断从大模型推理路径中移出,改由只做选择的 JEV 决策模型承担:输入为闭集候选与专家描述,输出为概率分布和置信度,对接阿里云百炼 decision-model-preview 时零适配代码。
开发者用 AI 重构一个运行四年的内部系统,总结出 5 条实战避坑经验。关键做法包括给足上下文、每次只改一个模块、先补测试用例,并在提示词中写明空指针、超时等边界条件。最有效的用法是让 AI 先解释老代码的历史背景再决定是否重构,因为 AI 是放大器而非决策者。
AJ MCP Next 是兼容 Java 8 的 MCP SDK 小工具库,面向 2026-07-28 协议,不向下兼容旧版 MCP。
本篇教程系统讲解 MCP(Model Context Protocol)的三个角色、JSON-RPC 2.0 消息格式、stdio 与 HTTP 两种传输及安全边界,并通过 mini-agent 的 StdioMcpClient 把协议变成可运行代码。
作者用 Claude Code 重构订单服务后线上 P99 延迟翻四倍,据此总结出 AI 重构必须走完的 7 步 SOP:静态分析扫真问题、梳理运行时依赖、单函数粒度小步改、先写测试再让 AI 改、用新鲜上下文做对抗性 Review、feature flag 灰度发布、git checkpoint 回滚预案。
推荐理由:作者把踩坑经验沉淀成可复用的 7 步 SOP,并给出每一步的提示词和回滚方案,可直接迁移到自己的 AI 重构流程中。
作者基于 OpenAI SDK 与 DeepSeek 模型手写了一个支持 Sub-Agents 的多 Agent 编排框架,主 Agent 负责任务拆解与调度,子 Agent 在独立上下文中执行子任务。
作者用 Claude Code 重构订单服务后线上 P99 延迟翻了四倍,据此总结出七步 SOP:静态分析、依赖梳理、单函数小步重构、先写测试再让 AI 改、对抗性 Review、feature flag 灰度发布和 git 回滚预案。
同一新闻,精选展示《AI 重构代码 40% 会悄悄改坏,我用 7 步 SOP 防住》
本文依据 Google ADK 官方文档与博客,系统解析 ADK 2.0 的多智能体编排体系。ADK 2.0 新增结构化工作流运行时与任务协作模型,核心是图工作流、动态工作流与协作工作流三种编排方式,设计哲学为模型做决策、图保证可靠可观测可恢复。
推荐理由:作者把 ADK 2.0 的图工作流、动态工作流与协作工作流放在同一张控制光谱上对照,并给出按控制流确定性选型的决策路径。
作者提出 Agent 越权链的三个确定性检测点:凭据获取点、工具调用序点、出站边界点,每个都附可运行的 Python 检测器代码。
作者围绕 Agentic RAG 的高级工具设计,讲解代码解释器、数据库查询、工作流触发三类实用工具的安全用法。代码解释器建议用 E2B 沙箱或本地白名单模块替代直接 exec(),数据库查询限制只允许 SELECT 并做 SQL 注入防护,工作流触发强调参数校验与异步执行。文末附代码注入、工具滥用、资源耗尽等风险的防护清单。
人类认识世界与构建工程知识的本质是一场层层封装的黑盒接力,只问输入输出的黑盒与探究内部机理的白盒始终互补兜底。从模电、数电到机器人控制,再到庞大的神经网络,调试时的开盒最终都是为了重新封盒。面对内部机理仍难以讲清的神经网络,可解释性研究刚起步,万物或许都是灰盒。
本文梳理了 WebAssembly 在 AI 推理中的适用场景与落地路线,指出其核心价值是统一执行边界而非提供新算力。浏览器本地、边缘设备和服务端插件三类场景分别对应 ONNX Runtime Web、wllama 与 Wasmtime + WASI 0.2 等方案,浏览器推理通常是 Wasm 控制路径加 WebGPU 计算路径的分层组合。
本文详解 Koog 1.3.0 的图式策略 AIAgentGraphStrategy,覆盖节点、边与条件、子图、parallel 并行执行和 AIAgentStorage 跨节点状态传递,并给出可编译的 Kotlin 天气查询综合示例。
珠海豆子机器人科技开发了编程语言 CatBase,语法模仿 Python 的简洁、性能对标 C,编译产物为零运行时依赖的本地二进制。与 Python 的两个关键改动是代码块改用大括号、变量必须显式声明类型,同时内置文件读写、HTTP 请求、多线程和 JSON 处理。目前版本号为 0.6,需 Linux 环境与 Zig 0.14.1+ 编译器,标准库生态仍在早期,许可协议为自定义 EULA。
豆包工作"无限画布"可读取小说项目并自动生成漫画:Agent 负责规划、拆分镜与推进,图像模型负责作画。实测将一部 70 章小说的第一章生成 6 屏 18 格全彩竖屏条漫,耗时约 18 分钟,还能自查重绘、按框选修改对话气泡。用户可在电脑端下载"豆包工作"体验,限时免费领取 30 天会员。
作者总结了 Agent 调用 rg 等外部搜索工具时,因 Python 默认解码导致 UTF-8 字节被 GBK 误解码的踩坑经验,并提出四层防护方案。第一层将 text 设为 False,由程序检测原始字节编码后再解码;第二层按 rg 返回码区分搜索成功有内容、成功无匹配与执行失败;第三层在外部工具失效时切换自研搜索逻辑;第四层将错误信息封装成文本反馈给 LLM 作为兜底。
作者团队总结了 5 种 LLM Streaming 断流恢复策略,从 Transport-Level Retry 到 Chunk-Level Checkpoint、SSE Resume Offset、Semantic Resume 与 Dual-Stream Redundancy,并给出选型决策树。
推荐理由:原文给出五种断流恢复策略的对比与选型决策树,读者可据此判断长文本生成场景应采用哪种容错方案。
文章讲解大模型分词器如何从语料中训练出来,并用 Hugging Face tokenizers 库的 BpeTrainer 亲手训练了一个 BPE 分词器。词表和合并规则由 BPE 算法从语料统计中学习,词表同时决定模型 embedding 层和输出层的大小。
作者拆解了 Matt Pocock 开源的 skills(github.com/mattpocock/skills),认为 AI coding 本质上是软件工程和项目管理。
作者认为在慢思考推理模型时代,逐步指令式提示词会压制模型内部的自搜索与自纠错,正确做法是只定义目标、边界契约与验收断言。文中用金融阶梯返佣结算场景做了两种提示词的对抗实测,契约断言式写法首轮生成正确率达 89.6%、提示词消耗降至 650 Tokens,并附完整的 Python 不变量校验脚本。
这篇教程拆解了 DeepSeek Harness 基于 Cordis 框架的插件机制,并带读者从 0 到 1 实现一个 text_stats 工具插件。
本文介绍通过 Reqable 内置的 MCP Server 把抓包能力接入 Claude Code,让 AI 代替人工完成抓包、筛流量、建重写规则和生成接口用例。
在 HarmonyOS 7(API 26)上搭建可开箱即跑的 Agent 工程脚手架与对话 UI 骨架,将多轮对话的记忆、编排与界面状态拆为三层:UI 层以 ChatUIMessage 视图模型渲染消息状态,Agent 编排层用一次 send() 完成"落用户消息→调底座→落助手回复",云端底座层直接复用上篇的 LlmClient。
作者在 HarmonyOS 7(API 26)上实现 Tool Calling 闭环,把查订单、查库存注册为工具,由模型判断是否调用、端侧执行真实查询并回传结果,解决大模型会说话但不掌握事实的问题。
教程演示如何用 Ollama、FAISS 与 LangChain 三个开源工具,在本地构建从大模型推理、向量检索到 Agent 工作流的完整原生 AI 链路。通过本地运行 qwen2.5:3b 模型保证数据不出本机,并利用 nomic-embed-text 生成向量实现 RAG 语义检索。三者均开源免费,可快速用于本地实验与二次开发。
Localiza 正在围绕生成式 AI 重组工作方式。公司借助 ChatGPT Enterprise、OpenAI API、Codex 及 60 余个专用智能体,构建 AI 原生的出行体验。
作者实测了一款支持 AI 搭稿的数据可视化报表平台,输入一句话后 AI 会先对齐指标口径再生成绑定真实数据集的大屏草稿,可在设计器中微调并发布。AI 问数附 SQL 来源、仅允许 SELECT/WITH 语句、无权限数据集直接拒绝、报错不编数,并可接 Ollama 本地模型实现内网使用。
作者总结了 8 条 AI 工具使用规矩,指出 AI 效果不佳的瓶颈往往在于人定的规矩不对,而非工具本身。核心建议包括先手动跑通流程再自动化、精简技能插件以节省上下文空间、定时任务指令尽量精炼,并要求 AI 交出文件路径等凭证以验证结果。此外还应定期清理记忆文件、谨慎使用多 Agent 协作并保留日志,把 AI 当作需要核查的实习生对待。
作者用 16 卡 H200 自部署 GLM-5.2(zai-org/GLM-5.2-FP8),用 sglang 开启其自带的 MTP 层做投机解码同参数 A/B 测试,吞吐涨到 1.43~1.91 倍,延迟降到原来的 49%~79%。
Google Antigravity 智能体科学工作台助力生物学家发现一种针对呼吸道感染病原体的新型抗菌肽候选物,目前该候选物正在接受湿实验验证。
本文详解 HarmonyOS 7 应用 Skill 的创建与编排,说明 Skill 与 API、Agent 的区别,以及描述、输入输出和权限边界的写法。文章给出已有 Skill 导入、Vibe Coding 从零生成、API 或 MCP 能力转换三种开发入口,以及端云 Skill 的分工维度和从调测到分发的完整流程。
作者汇总 134 条评论,选定 70 美金的 Beyond Compare 作为平替目标,开源项目定名 OpenCompare,由 Gemini 4 和 DeepSeek 用 5 天开发 4 项核心对比功能。
本文详解 HarmonyOS 7 应用 Agent 接入云 A2A 与端 A2A 的实践方法。云 A2A 将已有云端 Agent 经小艺开放平台接入系统入口,端 A2A 通过 Agent Extension Ability 让应用内 Agent 与小艺安全通信。选型看数据与执行位置,接入时需处理意图清单、权限身份、状态幂等、结果呈现、端云边界和失败兜底。
Agent 每次调用 LLM 的上下文由系统提示词、工具定义、用户消息、模型回复、工具执行结果五部分组成,可按是否随交互增长切分为静态前缀与轨迹。消融实验给出定性次序:工具定义 ≈ 工具执行结果 > 历史消息 > 思考过程。工具定义缺失时模型会用参数记忆冒充观察,提示词约束不能消除幻觉;reasoning 是可重建的记录,重建成本低时可压缩。
现代 AI Agent 的骨架可拆解为 LLM(大脑)、上下文(眼睛)与工具(手脚)三件套,生产环境中进一步抽象为 Model + Harness 两层结构。Harness 负责上下文管理、工具接口、约束、验证与纠正;观察空间决定"能不能想到",动作空间决定"能不能做到"。模型固定时扩充上下文与工具往往比换更强模型更有效,而纯问答与步骤完全确定的流程并不适合套用 Agent 循环。
作者分享传统竖屏 UIKit 项目适配 iPhone Duo 第一版的方案:不重构 UI 结构,统一在 SceneDelegate 监控场景变化并通知界面更新布局。