跳到正文
掘金· 武子康·· 3 小时前AI 评分48

虚拟线程不是无限并发:Java Agent 后端真正该限制的是这些资源

AI 导读

Java 服务采用虚拟线程后,容量治理须从线程池大小转向数据库连接、HTTP 连接、模型配额等真实稀缺资源的在途数量控制。JEP 444 建议每任务创建一个虚拟线程、不为复用建池;执行并发与资源并发必须分开,否则等待只会从平台线程转移到下游连接与额度。落地可用两道闸门:外层准入许可限制"执行中加等待中"的任务总量并在入口同步拒绝,内层资源许可包住真正的工具调用并共享同一 deadline。

来源:掘金 · juejin.cn