IT之家·· 8 天前AI 评分45
不用显卡:玩家靠停产傲腾内存跑通 2.8 万亿参数 Kimi K3 模型,每秒输出 1.5 词元
不用显卡:玩家靠停产傲腾内存跑通 2.8 万亿参数 Kimi K3 AI 模型,每秒输出 1.5 词元
AI 导读
网友 u/IndividualSurvival 在不配备显卡的情况下,使用傲腾持久内存 200 系列成功运行 2.8 万亿参数的 Kimi K3 模型。平台采用 40 核第三代至强可扩展处理器,以 App Direct 模式配合 llama.cpp 执行推理。
来源:IT之家 · ithome.com