跳到正文
AWS Machine Learning Blog· Muru Bhaskaran·· 2 天前AI 评分54

在 Amazon EKS 上使用 NVIDIA Run:ai GPU Fractioning 共享 GPU 内存

Using NVIDIA Run:ai GPU Fractioning on Amazon EKS

AI 导读

AWS 与 NVIDIA 作者实测验证,可在 Amazon EKS 上用 NVIDIA Run:ai GPU Fractioning 让两个 Pod 共享一块 NVIDIA A10G GPU,每个 Pod 在 8 GiB 内存合约下成功分配 6 GiB,9 GiB 超额分配则按预期失败。

来源:AWS Machine Learning Blog · aws.amazon.com