Начало работы с деплоями

Предварительные условия

Для развертывания модели в модуле Deployments необходимо:

• обучить и сериализовать модель;

• создать serving-скрипт, описывающий взаимодействие с моделью;

• загрузить обученную модель и serving-скрипт во внешнее объектное хранилище S3.

Работа с модулем Deployments

Работа с модулем предполагает следующую последовательность действий:

1. Сборка Docker-образа с моделью на основе базового или кастомного образа.

2. Развертывание образа с моделью на указанной конфигурации.

3. Отправка HTTP-запросов к модели вручную или от автоматизированных систем.

Пример развертывания модели

Рассмотрим пример развертывания модели по описанному выше алгоритму.

Предположим, у пользователя есть модель, обученная распознавать кошек и собак на изображениях.

Также у пользователя есть serving-скрипт, который описывает взаимодействие с моделью.

Задача состоит в том, чтобы развернуть эту модель и впоследствии передавать ей новые данные в виде HTTP-запросов.

Для решения поставленной задачи необходимо:

1. Сериализовать модель, например, в формат h5:

   model . save ( 'final_model.h5' ) 
   
   

2. Загрузить модель и serving-скрипт в бакет пользователя на S3.

3. Собрать Docker-образ c моделью на основе кастомного образа.

4. Развернуть образ в модуле. Обратите внимание на возможность динамически изменять конфигурацию деплоя.

Что дальше

После развертывания образа можно передавать модели новые данные в виде HTTP-запросов.