Редактировать параметры контейнера в Docker RUN
Инференс модели запускается в контейнере, содержащем пользовательский Docker-образ. Для редактирования доступны следующие параметры контейнера:
-
Модель GPU;
-
Объем памяти GPU;
-
Порт контейнера;
-
Команда точки входа;
-
опция Публичный адрес;
-
опция Автоматическое развертывание;
-
опция Логирование запросов;
-
опция Аутентификация;
-
опция Логирование.
-
значение request-таймаута;
-
значение idle-таймаута.
-
Тип масштабирования.
Чтобы отредактировать параметры:
-
В личном кабинете перейдите в раздел AI Factory → ML Inference.
-
Выберите в меню слева Docker RUN.
-
Откройте меню
напротив нужного инференса и выберите Редактировать. -
Измените нужные параметры и нажмите Сохранить.