跳到正文
Hugging Face Blog·· 13 小时前精选AI 评分77

PyTorch 2.15 发布 MPS 后端更新:FP8、MoE 解码提速 5–6.5×

MPS in PyTorch 2.15

AI 导读

Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 后端更新,为 Apple silicon Mac 带来 FP8 支持、更快的 LLM 解码和更多 Metal 内核。

推荐理由

原文逐项列出 FP8、MoE 解码和内存占用的具体数字,读者可直接对照自己的 Mac 工作流评估升级收益。

来源:Hugging Face Blog · huggingface.co