ML Space Образы для деплоев
В этом документе приведен список базовых образов для деплоя и комментарии к ним. Эти образы используются для упаковки модели и ее деплоя, чтобы затем обращаться к развернутой модели.
Если необходимы библиотеки, которых нет в базовых образах, можно собрать кастомный образ.
Обратите внимание:
Стабильная работа образов, предназначенных только для Christofari.V100, не гарантируется на Christofari.A100. Обратное тоже верно.
Не используйте образы с CUDA версии 10 в регионах Christofari.A100 и Cloud.Region.A100 (GPU Tesla A100).
Из чего состоит название образа
Рассмотрим образ cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.0-tf1.15.0-pt1.3.0:0.0.32-3:
cr.ai.cloud.ru/ — адрес репозитория в Cloud.ru.
/aicloud-base-images/ — часть адреса репозитория, которая показывает, что образ находится в разделе базовых образов.
horovod-cuda10.0-tf1.15.0-pt1.3.0:0.0.32-3 — название образа, которое состоит из нескольких частей.
horovod — показывает, что в образе установлен horovod.
cuda10.0\- — в образе используется версия cuda — 10.0.
tf1.15.0\- — версия TensorFlow, установленная в образе — 1.15.0.
pt1.3.0\- — версия PyTorch, установленная в образе — 1.3.0.
0.0.32-3 — тег образа.
Библиотеки в базовых образах для деплоев
Ниже приведены примеры для получения списка базовых образов, используя Public API.
curl -- location -- request GET 'https://api.ai.cloud.ru/public/v2/configs?cluster_type=MT' \-- header 'x-api-key: eeeeccee-eeee-eeee-eeee-eeaeefeeb49c' \-- header 'x-workspace-id: frrrrrra-ceee-eeec-eeef-4df7ca4bbbb1' \-- header 'Authorization: j8eAMouA15uA0VHPZeicNWa7SL...'
curl -- location -- request GET 'https://api.ai.cloud.ru/public/v2/configs?cluster_type=INF' \-- header 'x-api-key: eeeeccee-eeee-eeee-eeee-eeaeefeeb49c' \-- header 'x-workspace-id: frrrrrra-ceee-eeec-eeef-4df7ca4bbbb1' \-- header 'Authorization: j8eAMouA15uA0VHPZeicNWa7SL...'
curl -- location -- request GET 'https://api.ai.cloud.ru/public/v2/configs/spark' \-- header 'x-api-key: eeeeccee-eeee-eeee-eeee-eeaeefeeb49c' \-- header 'x-workspace-id: frrrrrra-ceee-eeec-eeef-4df7ca4bbbb1' \-- header 'Authorization: j8eAMouA15uA0VHPZeicNWa7SL...'
Полный список библиотек, установленных в базовых образах, приведен ниже.
Образ и библиотеки в его версиях |
Horovod/Cuda |
TF |
PT/Python |
Для какого региона предназначен |
|---|---|---|---|---|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.2-py39:0.0.36
Размер образа — 17,82 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.1 |
– |
1.8.2/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.0-py39:0.0.36
Размер образа — 17,82 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.1 |
– |
1.8.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.1-py39:0.0.36
Размер образа — 17,82 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.1 |
– |
1.8.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.9.0-py39:0.0.36
Размер образа — 17,82 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.1 |
– |
1.9.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.9.1-py39:0.0.36
Размер образа — 18,24 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.1 |
– |
1.9.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.10.0-py39:0.0.36
Размер образа — 18,24 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.1 |
– |
1.10.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.10.1-py39:0.0.36
Размер образа — 18,56 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.1 |
– |
1.10.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.3-torch1.12.0-py39:0.0.36
Размер образа — 17,32 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.3 |
– |
1.12.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.12.0-py39:0.0.36
Размер образа — 14,1 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.6 |
– |
1.12.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.13.0-py39:0.0.36
Размер образа — 16,89 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.6 |
– |
1.13.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.13.1-py39:0.0.36
Размер образа — 16,89 ГБ
Версия Ubuntu в образе — 20.04
|
0.28.1/11.6 |
– |
1.13.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch1.13.0-py39:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/11.7 |
– |
1.13.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch1.13.1-py39:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/11.7 |
– |
1.13.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch2-py39:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/11.7 |
– |
2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py38:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/11.8 |
– |
2.0/3.8 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py39:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/11.8 |
– |
2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py310:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/11.8 |
– |
2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py311:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/11.8 |
– |
2.0/3.11 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py38:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/12.1 |
– |
2.0/3.8 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py39:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/12.1 |
– |
2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py310:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/12.1 |
– |
2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py311:0.0.36
Версия Ubuntu в образе — 20.04
|
0.28.1/12.1 |
– |
2.0/3.11 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.0-tf1.15.0-pt1.3.0:0.0.32.3
Размер образа — 11,3 ГБ
Версия Ubuntu в образе — 18.04
|
0.22.1/10.0 |
1.15.0 |
1.3.0/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.1-tf2.2.0-pt1.5.0:0.0.32.3
Размер образа — 13,5 ГБ
Версия Ubuntu в образе — 18.04
|
0.22.1/10.1 |
2.2.0 |
1.5.0/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.1-tf2.3.0-pt1.6.0:0.0.32.3
Размер образа — 13,3 ГБ
Версия Ubuntu в образе — 18.04
|
0.22.1/10.1 |
2.3.0 |
1.6.0/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.2:0.0.32.3
Размер образа — 11,5 ГБ
Версия Ubuntu в образе — 18.04
|
0.22.1/10.2 |
– |
1.8.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.0-tf2.4.0-pt1.7.1:0.0.32.3
Размер образа — 18 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.0 |
2.4.0 |
1.7.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.0-tf2.4.0-pt1.7.1-a100:0.0.32.3
Размер образа — 18,2 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.0 |
2.4.0 |
1.7.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.1-pt1.8.1:0.0.32.3
Размер образа — 18 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.1 |
– |
1.8.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.1-pt1.9.1:0.0.32.3
Размер образа — 18,3 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.1 |
– |
1.9.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.1-pt1.8.1-a100:0.0.32.3
Размер образа — 18,1 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.1 |
– |
1.8.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.1-pt1.9.1-a100:0.0.32.3
Размер образа — 18,5 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.1 |
– |
1.9.1/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.2-tf2.5.0:0.0.32.3
Размер образа — 12,3 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.2 |
2.5.0 |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.2-tf2.6.0:0.0.32.3
Размер образа — 12,3 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.2 |
2.6.0 |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.2-tf2.5.0-a100:0.0.32.3
Размер образа — 12,4 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.2 |
2.5.0 |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/horovod-cuda11.2-tf2.6.0-a100:0.0.32.3
Размер образа — 12,5 ГБ
Версия Ubuntu в образе — 18.04
|
0.25.0/11.2 |
2.6.0 |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda10.0:0.0.32.3
Размер образа — 4,4 ГБ
Версия Ubuntu в образе — 18.04
|
–/10.0 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda10.1:0.0.32.3
Размер образа — 6,4 ГБ
Версия Ubuntu в образе — 18.04
|
–/10.1 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda10.2:0.0.32.3
Размер образа — 6 ГБ
Версия Ubuntu в образе — 18.04
|
–/10.2 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.0:0.0.32.3
Размер образа — 9,6 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.0 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1:0.0.32.3
Размер образа — 10,5 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.1 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.2:0.0.32.3
Размер образа — 8,2 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.2 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.3:0.0.32.3
Размер образа — 13,6 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.3 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.0-a100:0.0.32.3
Размер образа — 9,6 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.0 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-a100:0.0.32.3
Размер образа — 4,8 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.1 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.2-a100:0.0.32.3
Размер образа — 8,4 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.2 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.3-a100:0.0.32
Размер образа — 13,8 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.3 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.5:0.0.32.3
Размер образа — 8,7 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.5 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.5-a100:0.0.32.3
Размер образа — 8,9 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.5 |
– |
–/3.7 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-pt2:0.0.33
Размер образа — 16 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.7 |
– |
2.0 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-pt2:0.0.33
Размер образа — 19,1 ГБ
Версия Ubuntu в образе — 18.04
|
–/11.8 |
– |
2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/spark-3.2.1:0.0.32.1
Размер образа — 3,4 ГБ
Версия Ubuntu в образе — 18.04
|
– |
– |
–/– |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.2-torch2-py310:0.0.37
Задачи обучения с этим образом можно запускать только для типа pytorch2 и instance_type:
|
–/12.2 |
– |
2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.3-torch2-py310:0.0.37
Задачи обучения с этим образом можно запускать только для типа pytorch2 и instance_type:
|
–/12.3 |
– |
2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.1.2:0.0.40
|
–/– |
– |
2.1.2/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.2.2:0.0.40
|
–/– |
– |
2.2.2/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.3.0:0.0.40
|
–/– |
– |
2.3.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.3.0:0.0.40
|
–/– |
– |
2.3.0/3.11 |
|
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.4.0:0.0.40
|
–/– |
– |
2.4.0/3.11 |
Начните работу с помощью пошаговых инструкций
- Из чего состоит название образа
- Библиотеки в базовых образах для деплоев