跳到正文
10月21日周三
  1. 掘金78

    拆解 DeepSeek 开源推理框架 DeepInfer:万亿级大模型的高效落地实战

    DeepSeek 开源大规模推理框架 DeepInfer,首批支持 DeepSeek-V4.1-Flash,开源内容含推理框架、DeepSeek Recipe 与技术报告,支撑单集群每日 155 万亿 Token 吞吐、约每卡每小时 38 美元的收入。

    同一新闻,精选展示《DeepSeek 开源 DeepInfer 拆解:一张卡一小时收 38 美元背后的成本逻辑》

  2. 掘金51

    我用 AI 给两个人写了个微信小程序(二):从「能用」到「用得对」

    作者续写双人共享小程序「小家」第二期,不重搭架构,而是把动态流、共享账本和年度账单从「能用」推向「用得对」。动态流改为基于最旧事件 id 的历史分页,筛选条件下沉到查询层,避免本地过滤把对方的更早记录筛空;相邻同类事件按 60 秒间隔折叠展示,但强调这只是阅读归并而非审计事实。

  3. 掘金71

    Agent 安全的三层护栏:为什么只在提示词里写“不许做”没用

    文章指出,只在系统提示里写“不许做”拦不住提示注入,因为攻击指令来自 Agent 自行读取的外部内容,与用户指令在上下文里平级。作者把护栏分为三层:上下文层控制模型能看到什么,执行层控制模型能做什么,数据层控制世界能被改成什么样,越靠下的机制越难被绕过。文章还区分了越狱与提示注入,并强调高风险复核必须由上下文之外的独立机制完成。

  4. 掘金64

    从预约改期看 Agent 工具粒度:把不变量留在权威服务

    文章主张 Agent 工具应暴露完整的领域能力而非细粒度字段更新,由权威服务统一校验并提交不变量。作者以一个 SQLite 内存示例实际演示三种结果:弱 CRUD 接口提交了预约与占位不一致的半更新、reschedule_appointment 能力完整提交、资源冲突时回滚事务内已执行的第一条写入。

  5. 掘金40

    基于 YOLO11 的海底垃圾视觉巡检系统:水下 ROV + Streamlit 全流程实战

    一套基于 YOLO11n 的海底垃圾视觉巡检系统实现 15 类海底垃圾自动检测,并配套开箱即用的 Streamlit 可视化界面。YOLO11n 权重仅 6 MB,CPU 单图 100 ms 内完成推理,支持单图、批量、视频、摄像头四种输入,可离线部署于科考船或 ROV 控制台。模型在浑浊低光水体下仍能稳定识别目标,批量检测可汇总类别分布数据,辅助清污作业排程。

  6. 掘金34

    重新思考 Workrun:AI 时代,我们还需要手动编排 Workflow 吗?

    Workrun 正从手动可视化编排转向对话式 AI 自主编排:用户直接表达目标,系统理解任务、规划方案,确认后自动配置并保存 Workflow。一次性任务直接处理,仅复用需求才创建 Workflow;AI 生成的流程与手动创建的共用同一套原生能力,可在画布中修改,执行需单独授权。

  7. 博客园68

    一文搞懂 Git Worktree:多个 AI Agent 同时改代码如何避免互相打架

    Git Worktree 让多个 AI Agent 在同一仓库的独立工作目录中并行开发,避免互相覆盖文件,最后通过 Git 合并成果。Claude Code 可用 claude --worktree 启动独立会话,也可为 SubAgent 配置 isolation: worktree。Worktree 只隔离工作目录,不能消除合并冲突和语义冲突,也不能替代 Agent 间通信与代码测试。

  8. 掘金51

    Java AI 框架选型指南:六款主流框架分层拆解

    这篇文章按基础设施与 Agent 编排两个层级,拆解 Spring AI、LangChain4j、Solon AI、Spring AI Alibaba、AgentScope 和 Embabel 的定位与适用场景。基础设施层解决模型接入、向量库与工具调用问题,Agent 编排层解决多步骤任务的可靠性与可解释性问题。文末给出按 Java 版本、部署形态和确定性需求逐层收敛的选型决策路径。

  9. 掘金48

    虚拟线程不是无限并发:Java Agent 后端真正该限制的是这些资源

    Java 服务采用虚拟线程后,容量治理须从线程池大小转向数据库连接、HTTP 连接、模型配额等真实稀缺资源的在途数量控制。JEP 444 建议每任务创建一个虚拟线程、不为复用建池;执行并发与资源并发必须分开,否则等待只会从平台线程转移到下游连接与额度。落地可用两道闸门:外层准入许可限制"执行中加等待中"的任务总量并在入口同步拒绝,内层资源许可包住真正的工具调用并共享同一 deadline。

  10. 博客园52

    MiniMax M3.1 Flash 宣称任务成本降七成,账单真能降吗?

    作者认为 MiniMax M3.1 Flash 官方所称约70%成本下降是调用单价口径,重试、工具调用、超时和人工接管可能让成功任务总成本不降反升。文章给出按 task_id 聚合的 TCO 核算方法与可运行脚本,建议用同一批真实工单回放、配合预算熔断和灰度回滚再做选型;官方所称10月23日开放权重、许可证未公布等口径仍需按平台核验。

  11. 博客园57

    AI Agent 评测:到底要测什么、新手怎么测?(附完整流程)

    这篇教程系统讲解了 AI Agent 评测的维度、打分方法和落地流程,指出被测对象是模型加上提示词、工具、知识库的整套系统而非模型本身。评测至少要回答结果对不对、过程合不合理、代价能不能接受、行为安不安全四个问题,打分按规则优先交给代码、规则写不了的交给 LLM、争议和高风险样本留给人工。

  12. 掘金41

    AI Agent 评测:到底要测什么、新手怎么测?(附完整流程)

    AI Agent 评测应在 PRD 阶段与需求定义同步启动,从结果、过程、效率和安全多维度判断 Agent 是否达到产品目标。传统布尔断言无法应对答案不唯一、结果正确但过程出错、LLM-as-a-Judge 评委自身漂移等问题,需结合确定性评分、轨迹评分、LLM-as-a-Judge 与人工评审四种打分方式。完整落地流程包含建数据集、配评分器、设执行环境、执行并记录、分析失败、持续回归六个环节。

  13. 博客园42

    7 个阶段、27 篇经典论文:一文看懂 Transformer 如何催生现代 LLM

    Transformer 从 2017 年的机器翻译架构到现代 LLM 通用推理引擎的演进可归纳为七个阶段,27 篇经典论文串联起这条完整脉络。BERT 与 GPT 确立先预训练、再微调的范式后,模型相继突破长文本限制、统一生成任务,并扩展至视觉、语音与代码多模态。GPT-3、InstructGPT、DPO 及 DeepSeek-V3/R1 则进一步推动超大模型、人类对齐与强化推理。