跳到正文
量子位· 一水·· 13 小时前AI 评分74

岩芯矩阵联合港科大、CMU开源EdgeRock-4B,256K上下文KV Cache固定72MiB

KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型

AI 导读

岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布并开源EdgeRock-4B,256K上下文下KV Cache固定为72MiB,较源模型Qwen3.5-4B减少99.1%。

来源:量子位 · qbitai.com