Собрать и использовать кастомный Docker-образ для задачи обучения на основе внешнего образа

Секция FROM <image>

Укажите путь с нужным тегом до образа, который будет наследоваться для модификации.

FROM   < путь   до   образа > 

Например, если за основу берется образ Ubuntu 22.04, указываем:

ARG UBUNTU_VER 22.04
FROM ubuntu:${UBUNTU_VER}

Секция USER root

В этой секции выполняются команды, которые требуют прав привилегированного пользователя (root).

USER   root 

1. Создайте пользователя user с заранее определенными атрибутами:

   • UID: 1000

   • GID: 1000

   • HOME: /home/user

   • USERNAME: user

   • NFS DIR: /home/jovyan

2. Установите права пользователя на общую файловую систему, которая размещается в /home/jovyan. Домашняя директория пользователя user /home/user располагается не в общем хранилище, а внутри образа.

   RUN   useradd   - u   1000   - m   user   -- shell   / bin / bash  \
       &&   mkdir   - p   / home / user  \
       &&   chown   user : user   / home / user  \
       &&   mkdir   - p   / home / jovyan  \
       &&   chown   user : user   / home / jovyan 
   
   

3. Установите сервер OpenSSH, Python (при необходимости) и пакеты curl, wget и bzip2. Можно добавить дополнительные пакеты для образа, которые устанавливаем с помощью пакетного менеджера.

   RUN   apt - get   update  \
       &&   apt - get   install   - y   -- no - install - recommends  \
       openssh - server   openssh - client  \  # Устанавливаем OpenSSH для MPI что бы соединятся между контейнерами 
       curl   wget   bzip2  \  # Эти пакеты потребуются при сборке образа 
       &&   rm   - rf   / var / lib / apt / lists /* 
   
   

4. Сгенерируйте SSH-ключи:

   # Generating keys for SSH 
       RUN   mkdir   - p   / var / run / sshd  \
       &&   ssh - keygen   - A 
   
   

1. Настройте OpenSSH:

   1. Измените конфигурацию SSH, чтобы отключить проверку ключей хоста (StrictHostKeyChecking no).

   2. Отключите PAM в конфигурации SSH (UsePAM no).

   3. Установите PubkeyAcceptedAlgorithms для использования алгоритма ssh-rsa.

   4. Установите порт SSH на 2222.

   5. Установите права доступа 600 для всех файлов в /etc/ssh/.

   6. Установите пользователя user и группу user в качестве владельцев файлов /etc/ssh/ssh_host_* и каталога /run/sshd.`

   RUN   echo   "StrictHostKeyChecking no"   >>   / etc / ssh / ssh_config . d / mlspace . conf  \
    &&   echo   "UsePAM no"   >   / etc / ssh / sshd_config . d / mlspace . conf  \
    &&   echo   "PubkeyAcceptedAlgorithms +ssh-rsa"   >>   / etc / ssh / sshd_config . d / mlspace . conf  \
    &&   echo   "Port 2222"   >>   / etc / ssh / sshd_config . d / mlspace . conf  \
    &&   echo   "PidFile /run/sshd/sshd.pid"   >>   / etc / ssh / sshd_config . d / mlspace . conf  \
    &&   chmod   600   / etc / ssh /*  \
    &&   chown   user : user   / etc / ssh / ssh_host_ *  \
    &&   chown   user : user   / run / sshd 
   
   

2. (Опционально) Установите OpenMPI.

   В базовом наследуемом образе, например из NVIDIA NG, OpenMPI может быть уже установлен или добавлен из репозиториев дистрибутива и привязан к приложению.

   Примечание

   Ваше приложение может использовать MPI как средство коммуникации, тогда оно будет зависеть от наличия и версии пакета. В ML Space OpenMPI используется только для запуска распределенных задач с последующим контролем из состояния.

   1. Скачайте пакет HPC-X.

   2. Распакуйте его в директорию /opt/hpcx. Для примера используется версия 2.18.1 для Ubuntu 22.04.

      ARG HPCX_VER 2.18.1
      ARG UBUNTU_VER 22.04
      ARG HPCX_DIR /opt/hpcx
      ARG HPCX_PACKAGE hpcx-v${HPCX_VER}-gcc-mlnx_ofed-ubuntu${UBUNTU_VER}-cuda12-x86_64.tbz
      
      RUN mkdir - ${HPCX_DIR} \
      && wget --quiet --no-check-certificate -c https://content.mellanox.com/hpc/hpc-x/v${HPCX_VER}/${HPCX_PACKAGE} -O /tmp/${HPCX_PACKAGE} \
      && tar xjf /tmp/${HPCX_PACKAGE} -C ${HPCX_DIR} --strip-components=1
      
      

3. (Опционально) Если в образе не установлен Python, установите miniconda в директорию /home/user/conda и обновите переменную PATH, чтобы были доступны Python и связанные инструменты из miniconda.

   # Установка Python
   ARG CONDA_DIR=/home/user/conda
   ARG DOWNLOAD_LINK="https://repo.anaconda.com/miniconda/Miniconda3-py311_24.11.1-0-Linux-x86_64.sh"
   
   RUN mkdir -p ${CONDA_DIR} \
      && wget --quiet --no-check-certificate ${DOWNLOAD_LINK} -O miniconda.sh \
      && chmod +x miniconda.sh \
      && /bin/bash miniconda.sh -f -b -p ${CONDA_DIR} \
      && rm miniconda.sh \
   ENV PATH="$CONDA_DIR/bin:$PATH"
   
   

4. Установите дополнительные пакеты:

   RUN   apt - get   install   package - name 
   
   

5. Очистите образ и пакетный менеджер от кеша:

   RUN   apt - get   clean  \
        &&   rm   - rf   / var / lib / apt / lists /*  \
   
   

6. Выставите переменные окружения, которые необходимы для корректной работы. Ниже приведены переменные окружения для корректной работы HPC-X из шага 5 по настройке OpenSSH:

   ENV LD_LIBRARY_PATH=/opt/hpcx/ompi/lib:/opt/hpcx/ucx/lib:/opt/hpcx/ucc/lib:/opt/hpcx/sharp/lib:/opt/hpcx/nccl_rdma_sharp_plugin/lib:/opt/hpcx/hcoll/lib:${LD_LIBRARY_PATH}
   ENV PATH=/opt/hpcx/ompi/bin:/opt/hpcx/ucx/bin:/opt/hpcx/ucc/bin:/opt/hpcx/sharp/bin:/opt/hpcx/hcoll/bin:${PATH}
   ENV OPAL_PREFIX=/opt/hpcx/ompi
   
   

7. Для корректного сохранения переменных окружения создайте файл профиля в /etc/profile.d/mlspace.sh, который будет содержать необходимые переменные окружения, активирующиеся при работе в образе:

   RUN   echo   "export LD_LIBRARY_PATH=$LD_LIBRARY_PATH" >/ etc / profile . d / mlspace . sh  \
       &&   echo   "export PATH=$PATH"   >>   / etc / profile . d / mlspace . sh  \
       &&   echo   "export OPAL_PREFIX=$OPAL_PREFIX"   >>   / etc / profile . d / mlspace . sh 
   
   

Секция USER user

В этой секции выполняются команды, которые не требуют прав суперпользователя.

USER   user 

1. (Опционально) Установите пакеты Python и зависимости одним из способов.

   ---

   Через pip

   Через conda

   • Используя репозиторий пакетов pypi:

     RUN   pip   install   -- no - cache   < package > 
     
     

   • Используя бинарные пакеты wheel-формата:

     RUN   pip   install   -- no - cache   < package >. whl 
     
     

   • Осуществляя сборку пакета:

     RUN   python   setup . py   install / bdist_wheel /... 
     
     

2. Повторно установите переменные окружения, чтобы все действия, выполненные при запуске задачи от имени непривилегированного пользователя, стали доступны этому пользователю.

   ENV LD_LIBRARY_PATH=/opt/hpcx/ompi/lib:/opt/hpcx/ucx/lib:/opt/hpcx/ucc/lib:/opt/hpcx/sharp/lib:/opt/hpcx/nccl_rdma_sharp_plugin/lib:/opt/hpcx/hcoll/lib:${LD_LIBRARY_PATH}
   ENV PATH=/opt/hpcx/ompi/bin:/opt/hpcx/ucx/bin:/opt/hpcx/ucc/bin:/opt/hpcx/sharp/bin:/opt/hpcx/hcoll/bin:${PATH}
   ENV OPAL_PREFIX=/opt/hpcx/ompi
   
   

Секция shell

В этой секции добавляются финальные действия для образа, такие как WORKDIR, ENTRYPOINT, CMD, SHELL.

ML Space не использует команды, установленные в образе для старта, и игнорирует все, кроме WORKDIR. Ее рекомендуется оставить:

SHELL   [ "/bin/bash" ,   "-cu" ] 

Полный код Dockerfile

Собрав все рекомендации выше воедино, вы получите файл со следующим содержанием. Опциональные части и условия их опциональности обозначены комментарием.

Сборка образа

1. Перейдите в Data Catalog → Artifact Registry → Docker registry.

2. Нажмите Push command и скопируйте появившуюся команду.

3. Скопируйте имя хоста и неймспейс.

4. Убедитесь, что для использования в задачах обучения название репозитория начинается с префикса «job-«.

5. Выполните команду сборки образа в директории с вашим Dockerfile:

   docker   build   - t   cr . ai . cloud . ru / хххххххх - хххх - хххх - хххх - хххххххххххх / job - custom - image   .