Установить и протестировать NVIDIA GPU Operator

Установить плагин

1. Создайте группу узлов c GPU.

2. Подключитесь к кластеру Managed Kubernetes.

3. В личном кабинете перейдите в кластер, для которого создали группу узлов с GPU.

4. Перейдите в раздел Плагины и справа над списком установленных плагинов нажмите Добавить плагин.

5. Выберите NVIDIA GPU Operator.

6. Выберите необходимую версию NVIDIA GPU Operator.

   Для моделей GPU с NVlink требуется версия NVIDIA GPU Operator 26.3.3 и выше.

7. Нажмите Установить и подтвердите действие.

8. Дождитесь, когда состояние плагина изменится на «Установлен».

Протестировать плагин

Для тестирования корректной работы плагина развернем небольшое приложение CUDA, выполняющее простое сложение векторов.

1. Создайте спецификацию cuda-vector-add.yaml:

   apiVersion: v1
   kind: Pod
   metadata:
     name: cuda-vector-add
   spec:
     restartPolicy: OnFailure
     containers:
       - name: cuda-vector-add
         image: "emk8s.cr.cloud.ru/nvidia/cuda-vector-add:v0.1"
         resources:
           limits:
             nvidia.com/gpu: 1
   
   

2. Создайте под:

   kubectl create -f cuda-vector-add.yaml
   
   

3. Проверьте логи:

   kubectl logs -f cuda-vector-add
   
   

   Результат:

   [Vector addition of 50000 elements]
   Copy input data from the host memory to the CUDA device
   CUDA kernel launch with 196 blocks of 256 threads
   Copy output data from the CUDA device to the host memory
   Test PASSED
   Done