- Начало работы с ML Space
- Инструкции
- Использовать GitLab CI при работе с Environments
- Развертывание и эксплуатация моделей
- Начало работы с деплоями
- Сериализовать модель для использования в Deployments
- Скрипты для прогнозирования на основе обученных моделей
- Провалидировать serving-скрипт
- Создать образ для деплоя
- Развернуть модель (создать деплой)
- Отправить синхронный HTTP-запрос к развернутой модели
- Отправить асинхронный HTTP-запрос к развернутой модели
- Тарификация
- Термины и сокращения
- Обратиться в поддержку
Создать образ для деплоя
В этой инструкции описано, как создать образ для деплоя, а также ограничения и возможные ошибки.
В качестве базового образа поддерживаются только официальные образы ML Space для деплоев. Если среди предложенных образов нет подходящего, вы можете самостоятельно собрать кастомный образ и использовать его при развертывании, как описано ниже.
Создание образа
Чтобы создать образ:
Перейдите на вкладку Deployments → Образы и нажмите Создать образ. Откроется диалоговое окно с параметрами нового образа.
В открывшемся окне выберите тип образа стандартный, если нужен образ для деплоя с одним контейнером на основе kfserving или собственного веб-сервера.
Выберите базовый образ из списка.
Подключитесь к хранилищу S3.
Выбрать из списка
Указать вручную
Выберите из выпадающего списка ваших бакетов нужный.
Укажите параметры подключения (S3 Endpoint, Access Key ID и Security Key) к внешнему бакету вручную.
Заполните поля конфигурации.
Выберите модель, serving-скрипт и файл requirements.txt или укажите пути до них на S3 вручную.
ПримечаниеМодель и serving-скрипт должны находиться в одном каталоге.
Путь до папки с моделью на S3 указывается в формате <bucket_name>/<folder> без префикса s3://.
Путь до файла requirements.txt указывается опционально в случае сборки кастомного образа.
Нажмите Создать новый образ.
Во вкладке Deployments → Образы отобразится карточка созданного образа. Дождитесь, пока образ сменит статус «В процессе сборки» на «Готов к работе».
Полученный образ можно использовать при создании деплоев.
Возможные ошибки
Образ может перейти в статус «Ошибка» по одной из причин:
Неверно указан базовый образ, или его нет в Docker registry ML Space.
Неверно указаны параметры доступа к S3.
Размер образа превышает 16 ГБ.
Параметры доступа к S3 указаны верно, но не удалось скачать каталог с артефактами или скрипт.
- Создание образа
- Возможные ошибки