Облачная платформаEvolution

Метрики мониторинга сервиса Managed ClickHouse


Сервис мониторинга позволяет получать информацию о состоянии кластера.

В разделе описаны преднастроенные дашборды для мониторинга состояния кластера, а также приведен полный список метрик, которые сервис Managed ClickHouse передает в сервис мониторинга.

Сервисные дашборды

Сервисные (преднастроенные) дашборды мониторинга доступны в личном кабинете в разделе Базы данных → Managed ClickHouse. Чтобы увидеть данные, выберите кластер и перейдите на вкладку Мониторинг.

Дашборды состоят из виджетов, которые отображают значения метрик сервиса.

Для Managed ClickHouse доступны дашборды:

  • Инстанс

  • Сервер

Инстанс

На сервисном дашборде Инстанс настроены виджеты:

Название виджета

Описание

Нерабочие инстансы, шт.

Количество инстансов, которые не удалось успешно запустить или которые вышли из строя при получении метрик от сервера (chi_clickhouse_metric_fetch_errors).

Реплики «только для чтения», шт.

Количество реплицируемых таблиц в режиме «только для чтения» (chi_clickhouse_metric_ReadonlyReplica).

Таблицы / Базы данных, шт.

Количество таблиц (chi_clickhouse_metric_NumberOfTables) и баз данных (chi_clickhouse_metric_NumberOfDatabases).

Статистика по таблицам

Основные метрики таблиц базы данных:

Сервер

На сервисном дашборде Сервер настроены виджеты:

Название виджета

Описание

Запросы в секунду

Количество запросов, выполняемых каждую секунду (chi_clickhouse_event_Query).

SELECT-запросы в секунду

Количество SELECT-запросов, выполняемых каждую секунду (chi_clickhouse_event_SelectQuery).

INSERT-запросы в секунду

Количество INSERT-запросов, выполняемых каждую секунду (chi_clickhouse_event_InsertQuery).

Время работы

Среднее время непрерывной работы сервера (логарифмическая шкала) (chi_clickhouse_metric_Uptime).

Ошибки DNS и распределенных подключений

Количество ошибок:

Репликация

Информация о хостах (репликах) в режимах «только для чтения» (chi_clickhouse_metric_ReadonlyReplica) и «частичное отключение» (chi_clickhouse_event_ReplicaPartialShutdown), сессиях (chi_clickhouse_metric_ZooKeeperSession) и запросах на инициализацию Keeper (chi_clickhouse_event_ZooKeeperInit).

INSERT-запросы: Отложенные / Отклоненные / В ожидании выполнения

Количество запросов INSERT, которые были отложены (delayed), отклонены (rejected) или находятся в ожидании выполнения (pending):

  • Отложенные (chi_clickhouse_event_NetworkErrors) — запросы, отложенные перед обработкой из-за временной перегрузки системы, когда ресурсы ограничены, и ClickHouse регулирует поток данных.

  • Отклоненные (chi_clickhouse_event_DistributedConnectionFailTry) — запросы, которые были отклонены, например из-за проблем с сетью или неправильных форматов данных.

  • В ожидании (chi_clickhouse_event_DNSError) — запросы, которые в состоянии ожидания обработки из-за большого числа одновременно выполняемых вставок или из-за временной недоступности ресурсов системы.

Используемая память для запросов

Общий объем памяти в байтах, выделенной для выполняемых в данный момент запросов (chi_clickhouse_metric_MemoryTracking).

Вставленные строки

Количество строк, вставленных через INSERT-запросы во все таблицы (chi_clickhouse_event_InsertedRows).

Очередь репликации

Суммарная очередь репликации всех таблиц.

Максимальная задержка репликации

Максимальная задержка репликации в секундах среди всех таблиц (chi_clickhouse_metric_ReplicasMaxAbsoluteDelay).

Запросы к транзакциям Keeper

Количество запросов на транзакции в Keeper в секунду (chi_clickhouse_event_ZooKeeperTransactions).

Фоновые слияния

Интенсивность фоновых процессов слияния данных (chi_clickhouse_event_Merge).

Объединенные строки

Количество строк, которые были обработаны и объединены в процессе фоновых слияний (chi_clickhouse_event_MergedRows).

Несжатые данные при слиянии

Количество несжатых байт данных, обработанных в процессе фоновых слияний (chi_clickhouse_event_MergedUncompressedBytes).

Активные части данных

Количество активных частей данных, которые доступны для запросов и не участвуют в процессах слияния или удаления (chi_clickhouse_table_parts).

Отключенные части данных

Количество частей данных на диске, которые были отделены от активных частей данных и не участвуют в запросах (chi_clickhouse_metric_DetachedParts).

Максимальное количество частей для партиции

Максимальное количество частей данных в одной партиции таблицы (chi_clickhouse_metric_MaxPartCountForPartition).

Используемая память ClickHouse

Объем памяти, выделенный для работы сервера ClickHouse:

  • VIRT (Virtual Memory) — виртуальная память (chi_clickhouse_metric_MemoryVirtual), используемая процессом или задачей. Включает в себя весь код, данные и общие библиотеки, а также страницы, которые были вытеснены. VIRT = SWAP + RES, где SWAP — часть виртуальной памяти, которая была выгружена на диск из оперативной памяти.

  • RES (Resident size) — физическая память (chi_clickhouse_metric_MemoryResident), используемая процессом, который не был вытеснен. RES = CODE + DATA

  • CODE — часть RES-памяти (chi_clickhouse_metric_MemoryCode), занимаемая исполняемым кодом программы.

  • DATA — часть RES-памяти (chi_clickhouse_metric_MemoryDataAndStack), используемой для хранения данных помимо исполняемого кода.

  • SHR (Shared Memory) — память (chi_clickhouse_metric_MemoryShared), которая делится между несколькими процессами.

Память первичных ключей

Объем памяти для хранения первичных ключей в таблицах (chi_clickhouse_metric_MemoryPrimaryKeyBytesAllocated).

Память словарей

Объем памяти для хранения словарей (chi_clickhouse_metric_MemoryDictionaryBytesAllocated).

Свободное дисковое пространство

Объем свободного места на диске. Рассчитывается как отношение свободного пространства на диске (chi_clickhouse_metric_DiskFreeBytes) к общему объему диска (chi_clickhouse_metric_DiskTotalBytes) для каждого сервера ClickHouse.

Объем данных на диске

Общий объем дискового пространства, который занимают данные, хранящиеся в базе данных ClickHouse (chi_clickhouse_metric_DiskDataBytes).

Подключения

Число текущих подключений для каждого сервера:

Фоновые задачи

На графике отображаются:

Мутации данных

Количество активных мутаций данных ALTER DELETE/ALTER UPDATE (chi_clickhouse_table_mutations) и число затронутых партиций таблиц (chi_clickhouse_table_mutations_parts_to_do).

Процент попаданий в кеш меток

Процент успешных обращений к кешу меток, когда данные были извлечены из кеша в оперативной памяти вместо чтения с диска. Рассчитывается как отношение суммы обращений, завершившихся попаданием в кеш (chi_clickhouse_event_MarkCacheHits), к общему количеству обращений к кешу (chi_clickhouse_event_MarkCacheHits + chi_clickhouse_event_MarkCacheMisses).

CPU

Метрики загрузки процессора для каждого сервера:

CPU (сеть/диск)

Время, затраченное процессором на сетевые и дисковые операции:

Средняя нагрузка за 1 минуту

Показатель нагрузки на систему за последнюю минуту (chi_clickhouse_metric_LoadAverage1).

Общее время CPU

Общее время, затраченное процессором на выполнение всех операций.

Дашборд поддерживает следующие настройки и опции:

  • Выбор периода сбора данных. По умолчанию отображаются данные за последние 2 часа.

  • Выбор интервала автообновления данных. По умолчанию обновляются каждые 30 секунд.

  • Выгрузка графика в PNG-файл.

  • Просмотр графика в развернутом режиме.

Примечание

Сервисный дашборд можно дублировать как пользовательский, а затем настроить его под себя или посмотреть, какие метрики и запросы используются в виджетах.

Метрики сервиса

Метрика представляет собой временной ряд, показывающий изменение какого-либо показателя. Например, это может быть загрузка процессора, объем занятого дискового пространства или количество запросов к базе данных.

В сервисе мониторинга метрики используются для создания виджетов дашборда и настройки правил алертов. Значения метрик для этого получают и преобразуют с помощью запроса в PromQL-формате.

Подробнее о работе с метриками.

Метрики сервиса Managed ClickHouse

Название метрики, единица измерения

Описание

chi_clickhouse_metric_fetch_errors, шт.

Количество ошибок при получении метрик от сервера ClickHouse.

chi_clickhouse_metric_ReadonlyReplica, шт.

Количество реплицируемых таблиц в режиме «только для чтения».

chi_clickhouse_metric_NumberOfTables, шт.

Количество таблиц.

chi_clickhouse_metric_NumberOfDatabases, шт.

Количество баз данных.

chi_clickhouse_table_parts_bytes, байт

Суммарный размер частей таблицы на диске.

chi_clickhouse_table_parts_rows, шт.

Число строк в таблице.

chi_clickhouse_table_parts, шт.

Количество активных частей (parts) таблицы.

chi_clickhouse_event_Query, шт.

Количество запросов, выполняемых каждую секунду.

chi_clickhouse_event_SelectQuery, шт.

Количество SELECT-запросов, выполняемых каждую секунду.

chi_clickhouse_event_InsertQuery, шт.

Количество INSERT-запросов, выполняемых каждую секунду.

chi_clickhouse_metric_Uptime

Время непрерывной работы сервера.

chi_clickhouse_event_NetworkErrors

Сетевые ошибки при работе сервера, шт.

chi_clickhouse_event_DistributedConnectionFailAtAll, шт.

Неудачные попытки подключения к удаленным узлам в кластере.

chi_clickhouse_event_DistributedConnectionFailTry, шт.

Количество попыток подключения к удаленным узлам, завершившихся ошибкой.

chi_clickhouse_event_DNSError, шт.

Ошибки DNS при обращении к другим серверам.

chi_clickhouse_event_ReplicaPartialShutdown, шт.

Количество событий частичного отключения реплики.

chi_clickhouse_event_ZooKeeperInit, шт.

Количество инициализаций Keeper.

chi_clickhouse_metric_ZooKeeperSession, шт.

Количество активных сессий Keeper.

chi_clickhouse_metric_MemoryTracking, байт

Общий объем отслеживаемой памяти, выделенной сервером ClickHouse.

chi_clickhouse_event_InsertedRows, шт.

Количество строк, вставленных через INSERT-запросы во все таблицы.

chi_clickhouse_metric_ReplicasMaxAbsoluteDelay, с

Максимальная задержка репликации в секундах среди всех таблиц.

chi_clickhouse_event_ZooKeeperTransactions, с

Количество запросов на транзакции в Keeper в секунду.

chi_clickhouse_event_Merge

Количество запущенных фоновых процессов слияния данных.

chi_clickhouse_event_MergedRows, шт.

Количество строк, которые были обработаны и объединены в процессе фоновых слияний.

chi_clickhouse_event_MergedUncompressedBytes, байт

Количество несжатых байт данных, обработанных в процессе фоновых слияний.

chi_clickhouse_metric_DetachedParts, шт.

Количество частей данных на диске, которые были отделены от активных частей данных и не участвуют в запросах.

chi_clickhouse_metric_MaxPartCountForPartition, шт.

Максимальное количество частей данных в одной партиции таблицы.

chi_clickhouse_metric_MemoryVirtual, байт

Виртуальная память, используемая процессом или задачей. Включает в себя весь код, данные и общие библиотеки, а также страницы, которые были вытеснены.

chi_clickhouse_metric_MemoryResident, байт

Физическая память, используемая процессом, который не был вытеснен.

chi_clickhouse_metric_MemoryCode, байт

Часть RES-памяти, занимаемая исполняемым кодом программы.

chi_clickhouse_metric_MemoryDataAndStack, байт

Часть RES-памяти, используемой для хранения данных помимо исполняемого кода.

chi_clickhouse_metric_MemoryShared, байт

Память, которая делится между несколькими процессами.

chi_clickhouse_metric_MemoryPrimaryKeyBytesAllocated, байт

Объем памяти для хранения первичных ключей в таблицах.

chi_clickhouse_metric_MemoryDictionaryBytesAllocated, байт

Объем памяти для хранения словарей.

chi_clickhouse_metric_DiskFreeBytes, байт

Объем свободного пространства на диске.

chi_clickhouse_metric_DiskTotalBytes, байт

Общий объем диска.

chi_clickhouse_metric_DiskDataBytes, байт

Общий объем дискового пространства, который занимают данные, хранящиеся в базе данных ClickHouse.

chi_clickhouse_metric_TCPConnection, шт.

Число текущих TCP-подключений для каждого сервера.

chi_clickhouse_metric_HTTPConnection, шт.

Число текущих HTTP-подключений для каждого сервера.

chi_clickhouse_metric_InterserverConnection, шт.

Число межсерверных соединений для каждого сервера.

chi_clickhouse_metric_MySQLConnection, шт.

Число MySQL-подключений для каждого сервера.

chi_clickhouse_metric_BackgroundPoolTask, шт.

Количество задач, выполняемых в фоновом режиме.

chi_clickhouse_metric_BackgroundMovePoolTask, шт.

Количество задач, связанных с перемещением данных в фоновом режиме.

chi_clickhouse_metric_BackgroundSchedulePoolTask, шт.

Количество задач, выполняемых по расписанию в фоновом режиме.

chi_clickhouse_table_mutations, шт.

Количество активных мутаций данных ALTER DELETE/ALTER UPDATE.

chi_clickhouse_table_mutations_parts_to_do, шт.

Количество частей (parts), которые осталось мутировать.

chi_clickhouse_event_MarkCacheHits, шт.

Количество обращений, завершившихся попаданием в кеш.

chi_clickhouse_event_MarkCacheMisses, шт.

Количество обращений, не завершившихся попаданием в кеш.

chi_clickhouse_event_RealTimeMicroseconds, мкс

Суммарное «реальное» (wall-clock) время выполнения операций.

chi_clickhouse_event_UserTimeMicroseconds, мкс

Время работы процессора в пользовательском режиме (user time).

chi_clickhouse_event_SystemTimeMicroseconds, мкс

Время работы процессора в системном режиме (system time).

chi_clickhouse_event_OSIOWaitMicroseconds, мкс

Время ожидания ввода-вывода на уровне ОС (I/O wait).

chi_clickhouse_event_OSCPUWaitMicroseconds, мкс

Время ожидания выделения CPU со стороны ОС (CPU wait).

chi_clickhouse_event_OSCPUVirtualTimeMicroseconds, мкс

«Виртуальное» процессорное время, выделенное процессу ОС.

chi_clickhouse_event_DiskReadElapsedMicroseconds, мкс

Время, затраченное на системные вызовы чтения с диска (Disk Read syscall).

chi_clickhouse_event_DiskWriteElapsedMicroseconds, мкс

Время, затраченное на системные вызовы записи на диск (Disk Write syscall).

chi_clickhouse_event_NetworkReceiveElapsedMicroseconds, мкс

Время, затраченное на прием данных по сети (Network Receive).

chi_clickhouse_event_NetworkSendElapsedMicroseconds, мкс

Время, затраченное на отправку данных по сети (Network Send).

chi_clickhouse_metric_LoadAverage1

Показатель нагрузки на систему за последнюю минуту.

chi_clickhouse_event_CompileExpressionsMicroseconds, мкс

Общее время, затраченное на компиляцию выражений.

chi_clickhouse_event_DelayedInserts, шт.

Количество запросов INSERT, которые были задержаны.

chi_clickhouse_event_DelayedInsertsMilliseconds, мс

Общее время задержки INSERT-запросов.

chi_clickhouse_event_InsertQueryTimeMicroseconds, мкс

Общее время выполнения всех INSERT-запросов в микросекундах.

chi_clickhouse_event_MergesTimeMilliseconds, мс

Общее время выполнения фоновых слияний (merges) данных.

chi_clickhouse_event_RWLockReadersWaitMilliseconds, мс

Общее время ожидания для читателей (readers) в механизме блокировок чтения-записи.

chi_clickhouse_event_RWLockWritersWaitMilliseconds, мс

Общее время ожидания для писателей (writers) в механизме блокировок чтения-записи.

chi_clickhouse_event_RejectedInserts, шт.

Количество INSERT-запросов, которые были отклонены.

chi_clickhouse_event_ReplicatedDataLoss, шт.

Счетчик потерь данных в реплицируемых таблицах.

chi_clickhouse_event_ReplicatedPartChecks, шт.

Количество проверок частей данных, выполненных в процессе репликации.

chi_clickhouse_event_ReplicatedPartChecksFailed, шт.

Количество неудачных проверок частей данных при репликации.

chi_clickhouse_event_ReplicatedPartFailedFetches, шт.

Количество неудачных попыток загрузки (fetch) частей данных с других реплик.

chi_clickhouse_event_ReplicatedPartFetches, шт.

Количество успешных загрузок (fetch) частей данных с других реплик.

chi_clickhouse_event_ReplicatedPartFetchesOfMerged, шт.

Количество загрузок частей данных, которые были результатом слияния на другой реплике.

chi_clickhouse_event_ReplicatedPartMerges, шт.

Количество слияний (merges), выполненных для реплицируемых таблиц.

chi_clickhouse_event_S3ReadMicroseconds, мкс

Общее время, затраченное на операции чтения из хранилища S3.

chi_clickhouse_event_S3WriteMicroseconds, мкс

Общее время, затраченное на операции записи в хранилище S3.

chi_clickhouse_event_SelectQueryTimeMicroseconds, мкс

Общее время выполнения всех SELECT-запросов.

chi_clickhouse_event_ThrottlerSleepMicroseconds, мкс

Общее время, которое запросы находились в режиме ожидания (сна) из-за ограничений скорости (throttling), накладываемых на дисковые или сетевые операции.

chi_clickhouse_metric_BrokenDistributedFilesToInsert, шт.

Количество файлов для распределенных (Distributed) таблиц, которые не удалось обработать и которые были помечены как «сломанные».

chi_clickhouse_metric_DelayedInserts, шт.

Текущее количество задержанных INSERT-запросов в очереди.

chi_clickhouse_metric_DistributedFilesToInsert, шт.

Количество файлов, ожидающих отправки для распределенных таблиц.

chi_clickhouse_metric_Query, шт.

Текущее количество одновременно выполняющихся запросов всех типов.

chi_clickhouse_metric_ReplicasMaxRelativeDelay, с

Максимальная относительная задержка репликации.

chi_clickhouse_metric_ReplicasSumInsertsInQueue, шт.

Суммарный размер очереди вставок (INSERT) для всех реплицируемых таблиц.

chi_clickhouse_metric_ReplicasSumMergesInQueue, шт.

Суммарный размер очереди слияний (MERGE) для всех реплицируемых таблиц.

chi_clickhouse_metric_VersionInteger

Версия ClickHouse, представленная в виде целого числа.