Kestrel_VLLM decode 提速 2.25 倍
热点事件观察中
Kestrel_VLLM decode 提速 2.25 倍
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Kestrel_VLLM 称，其 Qwen3-30B-A3B 推理的 decode 速度从 52.7 提升至 118.8 tok/s（每 token 19 ms 降至 8.4 ms），总加速 2.25 倍。 做法是先用 stub 探针定位 decode 阶段的真实瓶颈，再叠加四项小优化。
AI 根据报道生成 · 44 分钟前更新
最新进展10月21日 08:23
Kestrel_VLLM decode 优化四连击：19ms → 8ms报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- 掘金Kestrel_VLLM decode 优化四连击：19ms → 8ms
Kestrel_VLLM 用 stub 探针定位真瓶颈并叠加四个小优化，将 Qwen3-30B-A3B 的 decode 速度从 52.7 提升至 118.8 tok/s（19→8.4 ms/tok），总加速 2.25×。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。