博客园· 张善友·2026-10-28 16:29· 2 小时前AI 评分67在 K8s 上跑大模型推理,为什么越来越多人选了 KServe?在 K8s 上跑大模型推理,为什么越来越多人选了 KServe? - 张善友AI 导读KServe 是 Kubernetes 原生的模型 serving 平台,不与 vLLM 竞争而是负责模型之外的一切:版本管理、流量路由、扩缩容与回滚,2025 年 9 月被 CNCF 跳过沙箱直接接纳为孵化项目。来源:博客园 · cnblogs.com推理能力开源生态部署工程教程实践#教程/实践#部署/工程#推理#开源生态查看事件全部后续