跳到正文
博客园· MoonOut·· 3 小时前AI 评分46

大模型训练 / 部署语境下的常用显卡

LLM | 大模型训练 / 部署语境下的常用显卡 - MoonOut

AI 导读

大模型训练与部署场景下的 NVIDIA 显卡按架构分为 V、A、L、H、B 等代,实际算力随浮点精度(FP32/BF16/FP8)与稠密/稀疏口径产生数十倍差异。

来源:博客园 · cnblogs.com