Сервисный мониторинг ML Inference
ML Inference собирает метрики и передает их в сервис мониторинга. В сервисе вы можете настраивать необходимые дашборды и виджеты самостоятельно.
Подробнее — в документации сервиса мониторинга.
Примечание
Фреймворк Ollama не предоставляет встроенных метрик мониторинга в формате Prometheus для интеграции с ML Inference.