博客园· 罗西的思考·· 4 天前AI 评分60
Kimi K3 轻量化复刻:MTP / EAGLE-3 交互式演示,13 个 Tab 覆盖投机解码全链路
【轻量化复刻大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示 - 罗西的思考
AI 导读
作者发布了一个全 CPU 运行的 MTP / EAGLE-3 交互式演示,13 个 Tab 覆盖 MTP 偏移对齐、联合损失、特征融合初始化、加速比理论与实测、lossless verify 判据、LK 损失、Draft 自回归链路和 Cache 快照回滚。
来源:博客园 · cnblogs.com