LangChain 应用开发:用脚手架组装本地 LLM 应用
这篇教程演示如何用 LangChain 对接本地 Ollama,组装 Prompt → LLM → Parser 最小链路。LangChain 本身是纯 Python 胶水层、不占显存,推理全部发生在 Ollama 端。文中给出 RAG 各环节与 LangChain 组件的对应表,并建议项目只有一处 LLM 调用时不一定用框架,出现三件以上组件时框架才开始回本。
这篇教程演示如何用 LangChain 对接本地 Ollama,组装 Prompt → LLM → Parser 最小链路。LangChain 本身是纯 Python 胶水层、不占显存,推理全部发生在 Ollama 端。文中给出 RAG 各环节与 LangChain 组件的对应表,并建议项目只有一处 LLM 调用时不一定用框架,出现三件以上组件时框架才开始回本。
作者将企业级 Agent 平台入口路由中「从 N 个候选里选一个」的判断从大模型推理路径中移出,改由只做选择的 JEV 决策模型承担:输入为闭集候选与专家描述,输出为概率分布和置信度,对接阿里云百炼 decision-model-preview 时零适配代码。
上海AI Lab与复旦大学的 LongHarness 论文提出将证据与结论显式分离的状态化证据管理方法,让同一 GLM-5.3-Flash 模型在约 1 亿 token 的 OfficeQA Pro V2 语料上准确率从 4.4% 提升到 61.1%,模型本身未改动。
文章指出,长期深度使用同一个 AI 会形成量身定制的认知茧房:模型读懂用户思维模式后只输出顺从偏好的答案,持续强化固有认知,与批量统一的短视频茧房本质不同。部分开发者因此转向本地 AI 闭环与本地云端混合架构,把私有知识库留在本地以守住认知主权。但部署本地模型并不等于自动免疫,根本解法是人主导决策、主动设定规则让 AI 引入对立视角。
本篇教程系统讲解 MCP(Model Context Protocol)的三个角色、JSON-RPC 2.0 消息格式、stdio 与 HTTP 两种传输及安全边界,并通过 mini-agent 的 StdioMcpClient 把协议变成可运行代码。
前华为小艺大模型负责人唐都钰创办观行数智,提出“主动式物理AI”方向,让AI在无明确指令时主动发现需求并介入。
基元律动(Token Rhythm)宣布平台开发者入驻数已超30万,同期推出双11预售限时福利。活动期间用户在 TokenRhythm API 平台单笔充值满50元即可获等额模型调用额度,累计赠额不设上限且永久有效。平台支持一个 API Key 调用全量模型,并搭配自研开源智能体 OpenSquilla 根据任务完成多模型智能融合路由。
交大安泰MBA发布《AI时代商科人才培养的安泰宣言》和"智能时代五链人才"培养体系,推动商科教育从知识传授转向能力培养。学院推出"百业千企10×100 AI场景共创计划",拟未来十年联合企业共创1000项AI实景课题,重点建设AI4O、FDE、OPC三种实战能力。面向2027级,学制统一调整为2年,实行40—50学分弹性学分制,实践课占比不低于总课时四分之一。
蚂蚁百灵开源推出 Ling-3.1-flash,主打在真实工作流中把任务做完,总参数约560B、每个Token激活约25B,上下文窗口上限1M。模型采用混合线性加稀疏MoE架构,7层KDA配1层Gated MLA,512个路由专家中每Token选8个并调用1个共享专家;经混合精度量化,权重占用从约534GB降至292GB,Hopper测试配置下部署GPU由8卡降至4卡。
量子位智库发布《Agent驱动的企业智能化》报告,指出企业AI落地面临任务定义、数据可信度等六大断点,并提出全链路破局框架。报告列举网易智企数帆等案例,三花智控预算分析耗时由2-3小时压缩至10分钟,空格数智科技开发周期从60人天缩短至16人天。报告建议企业先在高价值场景跑通闭环,再沉淀可复用资产以实现规模化复制。
作者基于 OpenAI SDK 与 DeepSeek 模型手写了一个支持 Sub-Agents 的多 Agent 编排框架,主 Agent 负责任务拆解与调度,子 Agent 在独立上下文中执行子任务。
本文依据 Google ADK 官方文档与博客,系统解析 ADK 2.0 的多智能体编排体系。ADK 2.0 新增结构化工作流运行时与任务协作模型,核心是图工作流、动态工作流与协作工作流三种编排方式,设计哲学为模型做决策、图保证可靠可观测可恢复。
推荐理由:作者把 ADK 2.0 的图工作流、动态工作流与协作工作流放在同一张控制光谱上对照,并给出按控制流确定性选型的决策路径。
作者提出 Agent 越权链的三个确定性检测点:凭据获取点、工具调用序点、出站边界点,每个都附可运行的 Python 检测器代码。
作者围绕 Agentic RAG 的高级工具设计,讲解代码解释器、数据库查询、工作流触发三类实用工具的安全用法。代码解释器建议用 E2B 沙箱或本地白名单模块替代直接 exec(),数据库查询限制只允许 SELECT 并做 SQL 注入防护,工作流触发强调参数校验与异步执行。文末附代码注入、工具滥用、资源耗尽等风险的防护清单。
作者认为现有 AI Memory 多是“存下来再搜回来”的仓库,真正难的是什么够格进入长期记忆以及何时该让它失效。核心方向是入口加漏斗与延迟处理,区分经历与经验、把遗忘当作一等能力,并按时间、事件、注意力三个坐标组织同一条记忆,同时为干活和梳理走两套召回路径。
本文详解 Koog 1.3.0 的图式策略 AIAgentGraphStrategy,覆盖节点、边与条件、子图、parallel 并行执行和 AIAgentStorage 跨节点状态传递,并给出可编译的 Kotlin 天气查询综合示例。
10 月 14 日,豆包手机助手《屏幕自动化操作声明协议》(SAEP)结束 30 天公示期,155 款第三方应用明确拒绝 AI 屏幕自动化操作。腾讯旗下 66 款、阿里旗下 23 款、美团 11 款、快手 14 款应用在列,Kimi、DeepSeek 等 AI 同类产品也选择关闭权限;京东、爱奇艺、哔哩哔哩及多数车企与银行 App 暂未拒绝。
推荐理由:原文梳理了 155 款应用拒绝名单的阵营分野,读者可据此判断 AI Agent 时代应用边界与流量主权博弈的走向。
豆包工作"无限画布"可读取小说项目并自动生成漫画:Agent 负责规划、拆分镜与推进,图像模型负责作画。实测将一部 70 章小说的第一章生成 6 屏 18 格全彩竖屏条漫,耗时约 18 分钟,还能自查重绘、按框选修改对话气泡。用户可在电脑端下载"豆包工作"体验,限时免费领取 30 天会员。
作者总结了 Agent 调用 rg 等外部搜索工具时,因 Python 默认解码导致 UTF-8 字节被 GBK 误解码的踩坑经验,并提出四层防护方案。第一层将 text 设为 False,由程序检测原始字节编码后再解码;第二层按 rg 返回码区分搜索成功有内容、成功无匹配与执行失败;第三层在外部工具失效时切换自研搜索逻辑;第四层将错误信息封装成文本反馈给 LLM 作为兜底。
open_scion 是 Scion 设计的开源实现,让数千个 AI 代理在同一代码库并发工作,客户端仅获取修改路径的文件,提交通过服务器端 rebase 和 CAS 原子更新直接落地主分支。
CabloyJS 从 TypeScript 全栈框架演进为 AI 规范驱动开发(AI-SDD)框架,以 Claude Code Skills cabloy-spec-generation 与 cabloy-spec-execution 实现"先建规范、再有界执行"的双阶段工作流。
作者拆解了 Matt Pocock 开源的 skills(github.com/mattpocock/skills),认为 AI coding 本质上是软件工程和项目管理。
Rsdoctor 2.0 正式发布,Agent CLI 成为推荐的自动化分析方式,替代原有的 MCP Server,agent 可结合 analysis skill 查询构建数据并定位优化方向。
本文介绍通过 Reqable 内置的 MCP Server 把抓包能力接入 Claude Code,让 AI 代替人工完成抓包、筛流量、建重写规则和生成接口用例。
在 HarmonyOS 7(API 26)上搭建可开箱即跑的 Agent 工程脚手架与对话 UI 骨架,将多轮对话的记忆、编排与界面状态拆为三层:UI 层以 ChatUIMessage 视图模型渲染消息状态,Agent 编排层用一次 send() 完成"落用户消息→调底座→落助手回复",云端底座层直接复用上篇的 LlmClient。
作者在 HarmonyOS 7(API 26)上实现 Tool Calling 闭环,把查订单、查库存注册为工具,由模型判断是否调用、端侧执行真实查询并回传结果,解决大模型会说话但不掌握事实的问题。
OpenAI 智能体 dots 负责人亚历山大·恩比里科斯在 TechCrunch Disrupt 大会上表示,随着 AI 能力提升,人们可以选择更努力地工作,也可以把部分工作交给 AI、减少自己的工作量。OpenAI 将 dots 定位为全天候运行的职场助手,能够主动处理任务、梳理待办事项。目前企业引入 AI 工具仍处于起步阶段,多数企业尚未实现工作任务自动化。
Meta 发布开放权重 AI 模型 Muse Spark Open,官方称其为迄今能力最强的美国开放权重模型。该模型采用原生多模态架构,总参数量 816B(激活参数 42B),支持 1M token 上下文窗口,专为代码构建与智能体协作设计。
教程演示如何用 Ollama、FAISS 与 LangChain 三个开源工具,在本地构建从大模型推理、向量检索到 Agent 工作流的完整原生 AI 链路。通过本地运行 qwen2.5:3b 模型保证数据不出本机,并利用 nomic-embed-text 生成向量实现 RAG 语义检索。三者均开源免费,可快速用于本地实验与二次开发。
Grupo Boticário 运营专有的 AI 智能体平台,可自主解决高达 80% 的经销商运营请求,使销售团队得以承担顾问角色。该集团近 50 年前起家于巴拉那州的一家调剂药房。
Localiza 正在围绕生成式 AI 重组工作方式。公司借助 ChatGPT Enterprise、OpenAI API、Codex 及 60 余个专用智能体,构建 AI 原生的出行体验。
作者实测了一款支持 AI 搭稿的数据可视化报表平台,输入一句话后 AI 会先对齐指标口径再生成绑定真实数据集的大屏草稿,可在设计器中微调并发布。AI 问数附 SQL 来源、仅允许 SELECT/WITH 语句、无权限数据集直接拒绝、报错不编数,并可接 Ollama 本地模型实现内网使用。
IDC 对 685 名公共部门受访者的调查发现,72% 的受访者认为将 AI 从试点推广到生产应用“非常困难”或“比较困难”,数据就绪度、技能缺口与安全合规风险是主要障碍。
OpenAI 升级 ChatGPT 的 Chrome 扩展,在网页版或桌面应用中 @chrome 后即可查看已打开的标签页,OpenAI 演示了让 ChatGPT 对比三个沙发选购标签页。
谷歌推出 Google Antigravity 智能开发平台,将跨多个数据库的分散搜索整合到单次会话,支持生物学家发现、评估和筛选潜在靶点。平台借助 ProtNLM 模型从氨基酸序列直接预测蛋白质生物功能,并内置基于 AlphaFold 数据库的 Biomolecular Structure Viewer 三维可视化工具,研究者与 AI 智能体可在共享 3D 画布上协作。
Bluesky 的 Attie AI 工具今年早些时候上线时仅用于生成订阅源,现已扩展为可通过输入提示词制作游戏、投票和仪表板等小型社交应用,并作为独立网站分享给他人。
作者总结了 8 条 AI 工具使用规矩,指出 AI 效果不佳的瓶颈往往在于人定的规矩不对,而非工具本身。核心建议包括先手动跑通流程再自动化、精简技能插件以节省上下文空间、定时任务指令尽量精炼,并要求 AI 交出文件路径等凭证以验证结果。此外还应定期清理记忆文件、谨慎使用多 Agent 协作并保留日志,把 AI 当作需要核查的实习生对待。
Meta 发布开放权重模型 Muse Spark Open,参数 816B(激活 42B),支持最长 100 万 token 上下文与文本、图像、视频、音频输入。
Nvidia 发布 Nemotron 3.5 Super VL,一个 120B 参数、每 token 激活 12B 的开源多模态 MoE 模型,面向持续运行的企业智能体。
The Verge 发表评论指出,Meta 的 AI 智能体 Muse 上月发布后迅速登顶 App Store,但其索取银行账户、密码、通讯录和聊天记录等权限的做法引发隐私专家批评。