ML Space

Начало работы с деплоями

В этом документе описаны условия и алгоритм работы с деплоями на платформе ML Space и приведен пример развертывания модели для распознавания кошек и собак на изображениях.

Предварительные условия

Для развертывания модели в модуле Deployments необходимо:

обучить и сериализовать модель;
создать serving-скрипт, описывающий взаимодействие с моделью;
загрузить обученную модель и serving-скрипт во внешнее объектное хранилище S3.

Работа с модулем Deployments

Работа с модулем предполагает следующую последовательность действий:

Сборка Docker-образа с моделью на основе базового или кастомного образа.
Развертывание образа с моделью на указанной конфигурации.
Отправка HTTP-запросов к модели вручную или от автоматизированных систем.

Пример развертывания модели

Рассмотрим пример развертывания модели по описанному выше алгоритму.

Предположим, у пользователя есть модель, обученная распознавать кошек и собак на изображениях.

Код обучения модели

Также у пользователя есть serving-скрипт, который описывает взаимодействие с моделью.

Код serving-скрипта

Задача состоит в том, чтобы развернуть эту модель и впоследствии передавать ей новые данные в виде HTTP-запросов.

Для решения поставленной задачи необходимо:

Сериализовать модель, например, в формат h5:
```
model.save('final_model.h5')
```
Загрузить модель и serving-скрипт в бакет пользователя на S3.
Собрать Docker-образ c моделью на основе кастомного образа.
Развернуть образ в модуле. Обратите внимание на возможность динамически изменять конфигурацию деплоя.

Что дальше

После развертывания образа можно передавать модели новые данные в виде HTTP-запросов.

Была ли статья полезной ?

Предыдущая статья

Развертывание и эксплуатация моделей

Следующая статья

Сериализовать модель для использования в Deployments

Поддержка Юридические документы