Редактировать контейнер в Model RUN
Инференс модели запускается в облачном контейнере. Для редактирования доступны следующие параметры контейнера:
-
Название;
-
Версия Transformers;
-
Токен доступа в Hugging Face;
-
Модель GPU;
-
Количество GPU карт;
-
Объем памяти GPU;
-
Формат данных;
-
Тип масштабирования;
-
Опция Аутентификация;
-
Опция Логирование.
Чтобы отредактировать параметры:
-
В личном кабинете перейдите в раздел AI Factory → ML Inference.
-
Выберите в меню слева Model RUN.
-
Откройте меню
напротив нужного инференса и выберите Редактировать.
-
Измените нужные параметры и нажмите Сохранить.