Редактировать параметры контейнера в Docker RUN
Инференс модели запускается в контейнере, содержащем пользовательский Docker-образ. Для редактирования доступны следующие параметры контейнера:
Модель GPU;
Объем памяти GPU;
Порт контейнера;
Команда точки входа;
опция Публичный адрес;
опция Автоматическое развертывание;
опция Логирование запросов;
опция Аутентификация;
опция Логирование.
значение request-таймаута;
значение idle-таймаута.
Тип масштабирования.
Чтобы отредактировать параметры:
В личном кабинете перейдите в раздел ML/AI Инструменты → ML Inference.
Выберите в меню слева Docker RUN.
Откройте меню
напротив нужного инференса и выберите Редактировать.Измените нужные параметры и нажмите Сохранить.