跳到正文
博客园· 绝不原创的飞龙·· 23 天前AI 评分64

《GGUF 量化内幕》全文目录:块量化、K-quants、码本与三值量化

《GGUF 量化内幕:块量化、K-quants、码本与三值量化》全文目录 - 绝不原创的飞龙

AI 导读

绝不原创的飞龙发布《GGUF 量化内幕》系列全文细纲,覆盖块量化、K-quants、码本量化与三值量化四大量化范式。全书共 20 章加 8 个附录,从端侧部署的内存带宽瓶颈与量化误差基础入手,逐格式拆解 Q4_0、Q4_K、Q6_K、IQ 系列及 STQ1_0/PTQ1_0 的字节布局、反量化公式与误差结构,并给出量化工具链工作流、llama.cpp 代码架构与跨引擎互操作的验证方法。

来源:博客园 · cnblogs.com