Образы для деплоев
В этом документе приведен список базовых образов для деплоя и комментарии к ним. Эти образы используются для упаковки модели и ее деплоя, чтобы затем обращаться к развернутой модели.
Если необходимы библиотеки, которых нет в базовых образах, можно собрать кастомный образ.
Обратите внимание:
-
Стабильная работа образов, предназначенных только для Christofari.V100, не гарантируется на Christofari.A100. Обратное тоже верно.
-
Не используйте образы с CUDA версии 10 в регионах Christofari.A100 и Cloud.Region.A100 (GPU Tesla A100).
Из чего состоит название образа
Рассмотрим образ cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.0-tf1.15.0-pt1.3.0:0.0.32-3:
-
cr.ai.cloud.ru/ — адрес репозитория в Cloud.ru.
-
/aicloud-base-images/ — часть адреса репозитория, которая показывает, что образ находится в разделе базовых образов.
-
horovod-cuda10.0-tf1.15.0-pt1.3.0:0.0.32-3 — название образа, которое состоит из нескольких частей.
-
horovod — показывает, что в образе установлен horovod.
-
cuda10.0\- — в образе используется версия cuda — 10.0.
-
tf1.15.0\- — версия TensorFlow, установленная в образе — 1.15.0.
-
pt1.3.0\- — версия PyTorch, установленная в образе — 1.3.0.
-
0.0.32-3 — тег образа.
-
Библиотеки в базовых образах для деплоев
Ниже приведены примеры для получения списка базовых образов, используя Public API.
-
Вызов API для просмотра образов и доступных конфигураций (instance_type) в задачах обучения, Jupyter Server и деплоях (инференсе)
-
Ключ MT — для обучения моделей и Jupyter Server.
-
Ключ INF — для деплоев (инференса).
-
curl --location --request GET 'https://api.ai.cloud.ru/public/v2/configs?cluster_type=MT' \--header 'x-api-key: eeeeccee-eeee-eeee-eeee-eeaeefeeb49c' \--header 'x-workspace-id: frrrrrra-ceee-eeec-eeef-4df7ca4bbbb1' \--header 'Authorization: j8eAMouA15uA0VHPZeicNWa7SL...'
curl --location --request GET 'https://api.ai.cloud.ru/public/v2/configs?cluster_type=INF' \--header 'x-api-key: eeeeccee-eeee-eeee-eeee-eeaeefeeb49c' \--header 'x-workspace-id: frrrrrra-ceee-eeec-eeef-4df7ca4bbbb1' \--header 'Authorization: j8eAMouA15uA0VHPZeicNWa7SL...'
Полный список библиотек, установленных в базовых образах, приведен ниже.
Образ и библиотеки в его версиях | Horovod/Cuda | TF | PT/Python | Для какого региона предназначен |
|---|---|---|---|---|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.2-py39:0.0.36 Размер образа — 17,82 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.8.2/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.0-py39:0.0.36 Размер образа — 17,82 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.8.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.1-py39:0.0.36 Размер образа — 17,82 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.8.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.9.0-py39:0.0.36 Размер образа — 17,82 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.9.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.9.1-py39:0.0.36 Размер образа — 18,24 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.9.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.10.0-py39:0.0.36 Размер образа — 18,24 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.10.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.10.1-py39:0.0.36 Размер образа — 18,56 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.10.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.3-torch1.12.0-py39:0.0.36 Размер образа — 17,32 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.3 | – | 1.12.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.12.0-py39:0.0.36 Размер образа — 14,1 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.6 | – | 1.12.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.13.0-py39:0.0.36 Размер образа — 16,89 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.6 | – | 1.13.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.13.1-py39:0.0.36 Размер образа — 16,89 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.6 | – | 1.13.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch1.13.0-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.7 | – | 1.13.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch1.13.1-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.7 | – | 1.13.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch2-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.7 | – | 2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py38:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.8 | – | 2.0/3.8 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.8 | – | 2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py310:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.8 | – | 2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py311:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.8 | – | 2.0/3.11 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py38:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/12.1 | – | 2.0/3.8 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/12.1 | – | 2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py310:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/12.1 | – | 2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py311:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/12.1 | – | 2.0/3.11 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.0-tf1.15.0-pt1.3.0:0.0.32.3 Размер образа — 11,3 ГБ Версия Ubuntu в образе — 18.04
| 0.22.1/10.0 | 1.15.0 | 1.3.0/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.1-tf2.2.0-pt1.5.0:0.0.32.3 Размер образа — 13,5 ГБ Версия Ubuntu в образе — 18.04
| 0.22.1/10.1 | 2.2.0 | 1.5.0/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.1-tf2.3.0-pt1.6.0:0.0.32.3 Размер образа — 13,3 ГБ Версия Ubuntu в образе — 18.04
| 0.22.1/10.1 | 2.3.0 | 1.6.0/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.2:0.0.32.3 Размер образа — 11,5 ГБ Версия Ubuntu в образе — 18.04
| 0.22.1/10.2 | – | 1.8.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.0-tf2.4.0-pt1.7.1:0.0.32.3 Размер образа — 18 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.0 | 2.4.0 | 1.7.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.0-tf2.4.0-pt1.7.1-a100:0.0.32.3 Размер образа — 18,2 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.0 | 2.4.0 | 1.7.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.1-pt1.8.1:0.0.32.3 Размер образа — 18 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.1 | – | 1.8.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.1-pt1.9.1:0.0.32.3 Размер образа — 18,3 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.1 | – | 1.9.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.1-pt1.8.1-a100:0.0.32.3 Размер образа — 18,1 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.1 | – | 1.8.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.1-pt1.9.1-a100:0.0.32.3 Размер образа — 18,5 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.1 | – | 1.9.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.2-tf2.5.0:0.0.32.3 Размер образа — 12,3 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.2 | 2.5.0 | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.2-tf2.6.0:0.0.32.3 Размер образа — 12,3 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.2 | 2.6.0 | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.2-tf2.5.0-a100:0.0.32.3 Размер образа — 12,4 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.2 | 2.5.0 | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.2-tf2.6.0-a100:0.0.32.3 Размер образа — 12,5 ГБ Версия Ubuntu в образе — 18.04
| 0.25.0/11.2 | 2.6.0 | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda10.0:0.0.32.3 Размер образа — 4,4 ГБ Версия Ubuntu в образе — 18.04
| –/10.0 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda10.1:0.0.32.3 Размер образа — 6,4 ГБ Версия Ubuntu в образе — 18.04
| –/10.1 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda10.2:0.0.32.3 Размер образа — 6 ГБ Версия Ubuntu в образе — 18.04
| –/10.2 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.0:0.0.32.3 Размер образа — 9,6 ГБ Версия Ubuntu в образе — 18.04
| –/11.0 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1:0.0.32.3 Размер образа — 10,5 ГБ Версия Ubuntu в образе — 18.04
| –/11.1 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.2:0.0.32.3 Размер образа — 8,2 ГБ Версия Ubuntu в образе — 18.04
| –/11.2 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.3:0.0.32.3 Размер образа — 13,6 ГБ Версия Ubuntu в образе — 18.04
| –/11.3 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.0-a100:0.0.32.3 Размер образа — 9,6 ГБ Версия Ubuntu в образе — 18.04
| –/11.0 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-a100:0.0.32.3 Размер образа — 4,8 ГБ Версия Ubuntu в образе — 18.04
| –/11.1 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.2-a100:0.0.32.3 Размер образа — 8,4 ГБ Версия Ubuntu в образе — 18.04
| –/11.2 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.3-a100:0.0.32 Размер образа — 13,8 ГБ Версия Ubuntu в образе — 18.04
| –/11.3 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.5:0.0.32.3 Размер образа — 8,7 ГБ Версия Ubuntu в образе — 18.04
| –/11.5 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.5-a100:0.0.32.3 Размер образа — 8,9 ГБ Версия Ubuntu в образе — 18.04
| –/11.5 | – | –/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-pt2:0.0.33 Размер образа — 16 ГБ Версия Ubuntu в образе — 18.04
| –/11.7 | – | 2.0 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-pt2:0.0.33 Размер образа — 19,1 ГБ Версия Ubuntu в образе — 18.04
| –/11.8 | – | 2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.2-torch2-py310:0.0.37 Задачи обучения с этим образом можно запускать только для типа pytorch2 и instance_type:
| –/12.2 | – | 2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.3-torch2-py310:0.0.37 Задачи обучения с этим образом можно запускать только для типа pytorch2 и instance_type:
| –/12.3 | – | 2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.1.2:0.0.40
| –/– | – | 2.1.2/3.10 | |
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.2.2:0.0.40
| –/– | – | 2.2.2/3.10 | |
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.3.0:0.0.40
| –/– | – | 2.3.0/3.10 | |
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.3.0:0.0.40
| –/– | – | 2.3.0/3.11 | |
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.4.0:0.0.40
| –/– | – | 2.4.0/3.11 | |
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.6.0:0.0.41
| –/– | – | 2.6.0/3.11 | |
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.7.0:0.0.41
| –/– | – | 2.7.0/3.11 | |
cr.ai.cloud.ru/aicloud-base-images/py3.12-torch2.6.0:0.0.41
| –/– | – | 2.6.0/3.12 | |
cr.ai.cloud.ru/aicloud-base-images/py3.12-torch2.7.0:0.0.41
| –/– | – | 2.7.0/3.12 |
Начните работу с помощью пошаговых инструкций
- Из чего состоит название образа
- Библиотеки в базовых образах для деплоев