Начало работы с деплоями

В этом документе описаны условия и алгоритм работы с деплоями на платформе ML Space и приведен пример развертывания модели для распознавания кошек и собак на изображениях.

Предварительные условия

Для развертывания модели в модуле Deployments необходимо:

  • обучить и сериализовать модель;

  • создать serving-скрипт, описывающий взаимодействие с моделью;

  • загрузить обученную модель и serving-скрипт во внешнее объектное хранилище S3.

Работа с модулем Deployments

Работа с модулем предполагает следующую последовательность действий:

  1. Сборка Docker-образа с моделью на основе базового или кастомного образа.

  2. Развертывание образа с моделью на указанной конфигурации.

  3. Отправка HTTP-запросов к модели вручную или от автоматизированных систем.

Пример развертывания модели

Рассмотрим пример развертывания модели по описанному выше алгоритму.

Предположим, у пользователя есть модель, обученная распознавать кошек и собак на изображениях.

Также у пользователя есть serving-скрипт, который описывает взаимодействие с моделью.

Задача состоит в том, чтобы развернуть эту модель и впоследствии передавать ей новые данные в виде HTTP-запросов.

Для решения поставленной задачи необходимо:

  1. Сериализовать модель, например, в формат h5:

    model . save ( 'final_model.h5' )
  2. Загрузить модель и serving-скрипт в бакет пользователя на S3.

  3. Собрать Docker-образ c моделью на основе кастомного образа.

  4. Развернуть образ в модуле. Обратите внимание на возможность динамически изменять конфигурацию деплоя.

Что дальше

После развертывания образа можно передавать модели новые данные в виде HTTP-запросов.

ML Space