はじめに NVIDIA Ampere アーキテクチャのGPUよりMIG(Multi-Instance GPU)というGPUを分割する機能が登場しました。このMIGにより分割されたGPUをKubernetesから利用する際、GPU Instanceを作成しておく必要があります。 2021/12時点では、GPU Instanceを作成する方法としては大きく2つの方法があります。 Kubernetesのノードのsystemdなどからスクリプト(or コマンド)を呼び出しGPU Instanceを作成 例 mig-parted: The nvidia-mig-manager.service Utilizing NVIDIA Multi-Instance GPU (MIG) in Amazon EC2 P4d Instances on Amazon Elastic Kubernetes Servic