token 自由之后：我把本地小模型接进了日常开发工作流

作者过去两个月把量化本地小模型接进日常开发工作流，用 pre-commit 代码审查、本地 RAG 和批量文本分类三个高频场景替代云端 API，一个月约 4.2 万次调用折算节省 800-1200 元。关键工程细节包括 Q4_K_M 量化是能力与体积的平衡点、7B 模型单条请求控制在 6K 上下文以内，以及关键链路需保留降级到云端 API 的 fallback。