В этом документе приведен список базовых образов для деплоя и комментарии к ним. Эти образы используются для упаковки модели и ее деплоя, чтобы затем обращаться к развернутой модели.
Если необходимы библиотеки, которых нет в базовых образах, можно собрать кастомный образ.
Обратите внимание:
Стабильная работа образов, предназначенных только для Christofari.V100 • DGX2-INF-001, не гарантируется на Christofari.A100.part2 • SR004. Обратное тоже верно.
Не используйте образы с CUDA версии 10 в регионах Christofari.A100.part2 • SR004 и Cloud.Region.A100 (GPU Tesla A100) • SR002.
Рассмотрим образ cr.ai.cloud.ru/aicloud-base-images/horovod-cuda10.0-tf1.15.0-pt1.3.0:0.0.32-3:
cr.ai.cloud.ru/ — адрес репозитория в Cloud.ru.
/aicloud-base-images/ — часть адреса репозитория, которая показывает, что образ находится в разделе базовых образов.
horovod-cuda10.0-tf1.15.0-pt1.3.0:0.0.32-3 — название образа, которое состоит из нескольких частей.
horovod — показывает, что в образе установлен horovod.
cuda10.0\- — в образе используется версия cuda — 10.0.
tf1.15.0\- — версия TensorFlow, установленная в образе — 1.15.0.
pt1.3.0\- — версия PyTorch, установленная в образе — 1.3.0.
0.0.32-3 — тег образа.
Ниже приведены примеры для получения списка базовых образов, используя Public API.
Вызов API для просмотра образов и доступных конфигураций (instance_type) в задачах обучения, Jupyter Server и деплоях (инференсе)
Ключ MT — для обучения моделей и Jupyter Server.
Ключ INF — для деплоев (инференса).
curl --location --request GET 'https://api.ai.cloud.ru/public/v2/configs?cluster_type=MT' \--header 'x-api-key: i7uOA-ouA15uA0VHP-YioaSQt4KN' \--header 'x-workspace-id: j8eAM-ouA15uA0VHP-ZeicNWa7SL' \--header 'Authorization: j8eAMouA15uA0VHPZeicNWa7SL...'
curl --location --request GET 'https://api.ai.cloud.ru/public/v2/configs?cluster_type=INF' \--header 'x-api-key: i7uOA-ouA15uA0VHP-YioaSQt4KN' \--header 'x-workspace-id: j8eAM-ouA15uA0VHP-ZeicNWa7SL' \--header 'Authorization: j8eAMouA15uA0VHPZeicNWa7SL...'
Полный список библиотек, установленных в базовых образах, приведен ниже.
Образ и библиотеки в его версиях | Horovod/Cuda | TF | PT/Python | Для какого региона предназначен |
|---|---|---|---|---|
Версия Ubuntu в образе — 22.04
| –/– | – | 2.9.0/3.12 | Для всех доступных регионов |
Версия Ubuntu в образе — 22.04
| –/– | – | 2.9.0/3.11 | Для всех доступных регионов |
Версия Ubuntu в образе — 22.04
| –/– | – | 2.8.0/3.12 | Для всех доступных регионов |
Версия Ubuntu в образе — 22.04
| –/– | – | 2.8.0/3.11 | Для всех доступных регионов |
Версия Ubuntu в образе — 22.04
| –/– | – | 2.7.0/3.12 | Для всех доступных регионов |
Версия Ubuntu в образе — 22.04
| –/– | – | 2.7.0/3.11 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.12-torch2.7.0:0.0.41 Версия Ubuntu в образе — 22.04
| –/– | – | 2.7.0/3.12 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.12-torch2.6.0:0.0.41 Версия Ubuntu в образе — 22.04
| –/– | – | 2.6.0/3.12 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.7.0:0.0.41 Версия Ubuntu в образе — 22.04
| –/– | – | 2.7.0/3.11 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.6.0:0.0.41 Версия Ubuntu в образе — 22.04
| –/– | – | 2.6.0/3.11 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.4.0:0.0.40 Версия Ubuntu в образе — 22.04
| –/– | – | 2.4.0/3.11 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.11-torch2.3.0:0.0.40 Версия Ubuntu в образе — 22.04
| –/– | – | 2.3.0/3.11 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.3.0:0.0.40 Версия Ubuntu в образе — 22.04
| –/– | – | 2.3.0/3.10 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.2.2:0.0.40 Версия Ubuntu в образе — 22.04
| –/– | – | 2.2.2/3.10 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/py3.10-torch2.1.2:0.0.40 Версия Ubuntu в образе — 22.04
| –/– | – | 2.1.2/3.10 | Для всех доступных регионов |
cr.ai.cloud.ru/aicloud-base-images/cuda12.3-torch2-py310:0.0.37 Задачи обучения с этим образом можно запускать только для типа pytorch2 и instance_type:
| –/12.3 | – | 2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.2-torch2-py310:0.0.37 Задачи обучения с этим образом можно запускать только для типа pytorch2 и instance_type:
| –/12.2 | – | 2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py311:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/12.1 | – | 2.0/3.11 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py310:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/12.1 | – | 2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/12.1 | – | 2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda12.1-torch2-py38:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/12.1 | – | 2.0/3.8 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py311:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.8 | – | 2.0/3.11 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py310:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.8 | – | 2.0/3.10 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.8 | – | 2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.8-torch2-py38:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.8 | – | 2.0/3.8 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch2-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.7 | – | 2.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch1.13.1-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.7 | – | 1.13.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.7-torch1.13.0-py39:0.0.36 Версия Ubuntu в образе — 20.04
| 0.28.1/11.7 | – | 1.13.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.13.1-py39:0.0.36 Размер образа — 16,89 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.6 | – | 1.13.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.13.0-py39:0.0.36 Размер образа — 16,89 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.6 | – | 1.13.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.6-torch1.12.0-py39:0.0.36 Размер образа — 14,1 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.6 | – | 1.12.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.3-torch1.12.0-py39:0.0.36 Размер образа — 17,32 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.3 | – | 1.12.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.10.1-py39:0.0.36 Размер образа — 18,56 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.10.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.10.0-py39:0.0.36 Размер образа — 18,24 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.10.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.9.1-py39:0.0.36 Размер образа — 18,24 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.9.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.9.0-py39:0.0.36 Размер образа — 17,82 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.9.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.1-py39:0.0.36 Размер образа — 17,82 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.8.1/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.0-py39:0.0.36 Размер образа — 17,82 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.8.0/3.9 |
|
cr.ai.cloud.ru/aicloud-base-images/cuda11.1-torch1.8.2-py39:0.0.36 Размер образа — 17,82 ГБ Версия Ubuntu в образе — 20.04
| 0.28.1/11.1 | – | 1.8.2/3.9 |
|
Начните работу с помощью пошаговых инструкций