掘金· 用户36005557900·2026-10-21 08:23· 2 天前AI 评分29Kestrel_VLLM decode 优化四连击:19ms → 8msKestrel_VLLM - 15 · decode 优化四连击:19ms → 8msAI 导读Kestrel_VLLM 用 stub 探针定位真瓶颈并叠加四个小优化,将 Qwen3-30B-A3B 的 decode 速度从 52.7 提升至 118.8 tok/s(19→8.4 ms/tok),总加速 2.25×。来源:掘金 · juejin.cn推理能力部署工程教程实践#教程/实践#推理#部署/工程查看事件全部后续