IT之家·· 4 天前AI 评分49
每秒输出最高 43 词元:Garlic LLM 可让越狱 PS4 运行 9B 参数本地 AI 模型
AI 导读
开源项目 Garlic LLM 可让越狱版 PS4 绕过游戏驱动直接调用 AMD GCN GPU,离线运行 9B 参数大语言模型。项目基于 Qwen3.5-9B 基座,以 3/4 位量化压缩至约 4.5 GiB,文本生成约每秒 31-39 个词元,代码生成最高每秒 43 个词元,上下文窗口约 16,000 个词元。
来源:IT之家 · ithome.com