AWS Machine Learning Blog· Muru Bhaskaran·· 2 天前AI 评分54
在 Amazon EKS 上使用 NVIDIA Run:ai GPU Fractioning 共享 GPU 内存
Using NVIDIA Run:ai GPU Fractioning on Amazon EKS
AI 导读
AWS 与 NVIDIA 作者实测验证,可在 Amazon EKS 上用 NVIDIA Run:ai GPU Fractioning 让两个 Pod 共享一块 NVIDIA A10G GPU,每个 Pod 在 8 GiB 内存合约下成功分配 6 GiB,9 GiB 超额分配则按预期失败。
来源:AWS Machine Learning Blog · aws.amazon.com