При запуске из статуса «Ожидание запроса» модели возможен ответ системы с ошибкой 502.
Это происходит, если время запуска модели превышает таймаут ответа.
Существует два варианта решения проблемы:
Повторить запрос к модели, задав максимальное количество попыток запуска (max_retries).
Установить минимальное количество экземпляров равным 1. В этом случае вы избежите ожидания старта модели.