Статусы инференса
Созданный инференс может иметь следующие статусы:
Статус | Описание |
|---|---|
Ожидание ресурсов | Происходит выделение ресурсов и развертывание Model RUN или Docker RUN сразу после создания инференса. |
Загрузка модели | Скачивается модель. Следует за статусом «Ожидание ресурсов». |
Запуск модели | Запускается модель. Следует за статусом «Загрузка модели». |
Останавливается | Пользователь остановил модель, Model RUN или Docker RUN в процессе остановки. |
Остановлен | Model RUN или Docker RUN приостановлен. |
Ожидает запроса | Статус возникает, когда пользователь задал минимальное количество экземпляров инференса равным 0. В этом случае Model RUN или Docker RUN работает в Serverless-режиме, то есть запускается только при наличии запросов, а без них переходит в режим ожидания. См.также |
Ошибка | Проблема с запуском Model RUN или Docker RUN. Обратитесь в поддержку с указанием текста ошибки. |
Запущен | Model RUN или Docker RUN работает корректно. |
Удаляется | Пользователь удалил модель, Model RUN или Docker RUN в процессе удаления. |
Удален | Model RUN или Docker RUN удален. |