跳到正文
博客园· 罗西的思考·· 8 天前AI 评分41

Kimi K3 Stable LatentMoE 架构梳理

【轻量化复刻大模型 / KIMI K3】Stable LatentMoE 梳理 - 罗西的思考

AI 导读

这篇梳理文章拆解了月之暗面 Kimi K3 的 Stable LatentMoE 架构:以"下潜→稀疏路由→上潜"把专家算力落到潜空间,实现 896 路选 16 且全程稳定。

来源:博客园 · cnblogs.com