- Начало работы с ML Space
- Инструкции
- Использовать GitLab CI при работе с Environments
- Развертывание и эксплуатация моделей
- Начало работы с деплоями
- Сериализовать модель для использования в Deployments
- Скрипты для прогнозирования на основе обученных моделей
- Провалидировать serving-скрипт
- Создать образ для деплоя
- Развернуть модель (создать деплой)
- Отправить синхронный HTTP-запрос к развернутой модели
- Отправить асинхронный HTTP-запрос к развернутой модели
- Тарификация
- Термины и сокращения
- Обратиться в поддержку
Начало работы с деплоями
В этом документе описаны условия и алгоритм работы с деплоями на платформе ML Space и приведен пример развертывания модели для распознавания кошек и собак на изображениях.
Предварительные условия
Для развертывания модели в модуле Deployments необходимо:
обучить и сериализовать модель;
создать serving-скрипт, описывающий взаимодействие с моделью;
загрузить обученную модель и serving-скрипт во внешнее объектное хранилище S3.
Работа с модулем Deployments
Работа с модулем предполагает следующую последовательность действий:
Сборка Docker-образа с моделью на основе базового или кастомного образа.
Развертывание образа с моделью на указанной конфигурации.
Отправка HTTP-запросов к модели вручную или от автоматизированных систем.
Пример развертывания модели
Рассмотрим пример развертывания модели по описанному выше алгоритму.
Предположим, у пользователя есть модель, обученная распознавать кошек и собак на изображениях.
Также у пользователя есть serving-скрипт, который описывает взаимодействие с моделью.
Задача состоит в том, чтобы развернуть эту модель и впоследствии передавать ей новые данные в виде HTTP-запросов.
Для решения поставленной задачи необходимо:
Сериализовать модель, например, в формат h5:
model . save ( 'final_model.h5' )Загрузить модель и serving-скрипт в бакет пользователя на S3.
Собрать Docker-образ c моделью на основе кастомного образа.
Развернуть образ в модуле. Обратите внимание на возможность динамически изменять конфигурацию деплоя.
Что дальше
После развертывания образа можно передавать модели новые данные в виде HTTP-запросов.
- Предварительные условия
- Работа с модулем Deployments
- Пример развертывания модели
- Что дальше