IT之家·· 16 天前AI 评分72
淘宝 MNN 团队开源 MNN-Pocket-0.3B 手机模型,iPhone 18 Pro 离线解码约 350 token/s
淘宝 MNN 团队开源 0.3B 手机模型,苹果 iPhone 18 Pro 离线跑出 350 token/s
AI 导读
淘宝 MNN 团队开源面向手机应用的 MNN-Pocket-0.3B 轻量语言模型,约 3 亿参数,在 iPhone 18 Pro 上经 MNN 推理引擎完全离线运行,平均解码速度约 350 token/s。
来源:IT之家 · ithome.com