跳到正文
原文
NVIDIA Technical Blog· Elizabeth Goodman·· 14 小时前AI 评分26

Kubernetes 中基于 NVIDIA CUDA 13.4 的内存强制 GPU 共享

Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4

AI 导读

NVIDIA CUDA 13.4 在 Kubernetes 中支持内存强制的 GPU 共享。许多 AI 工作负载只需 GPU 的一小部分,整卡分配会让容量闲置,共享 GPU 可使平台团队用现有基础设施服务更多工作负载。NVIDIA GPU 已支持多种共享方式,其中 MIG 可将 GPU 拆分为硬件隔离、对应用透明的实例。

来源:NVIDIA Technical Blog · developer.nvidia.com