跳到正文
IT之家·· 4 天前AI 评分71

商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内

AI 导读

商汤科技发布 SenseNova Loop-9B 模型,约 9B 参数通过 Loop 结构复用模型层参数并扩展计算深度,官方 4bit 量化后权重仅约 4.9GB,部署显存需求低至 10 GB 内。

来源:IT之家 · ithome.com