ML Inference
Редактировать контейнер в Model RUN
Инференс модели запускается в облачном контейнере. Для редактирования доступны следующие параметры контейнера:
Название;
Версия Transformers;
Токен доступа в Hugging Face;
Модель GPU;
Количество GPU карт;
Объем памяти GPU;
Формат данных;
Тип масштабирования;
Опция Аутентификация;
Опция Логирование.
Чтобы отредактировать параметры:
В личном кабинете перейдите в раздел ML/AI Инструменты → ML Inference.
Выберите в меню слева Model RUN.
Откройте меню
напротив нужного инференса и выберите Редактировать.
Измените нужные параметры и нажмите Сохранить.