Сервис мониторинга позволяет получать информацию о состоянии кластера.
В разделе описаны преднастроенные дашборды для мониторинга состояния кластера, а также приведен полный список метрик, которые сервис Managed ClickHouse передает в сервис мониторинга.
Сервисные (преднастроенные) дашборды мониторинга доступны в личном кабинете в разделе Базы данных → Managed ClickHouse. Чтобы увидеть данные, выберите кластер и перейдите на вкладку Мониторинг.
Дашборды состоят из виджетов, которые отображают значения метрик сервиса.
Для Managed ClickHouse доступны дашборды:
Инстанс
Сервер
На сервисном дашборде Инстанс настроены виджеты:
Название виджета | Описание |
|---|---|
Нерабочие инстансы, шт. | Количество инстансов, которые не удалось успешно запустить или которые вышли из строя при получении метрик от сервера (chi_clickhouse_metric_fetch_errors). |
Реплики «только для чтения», шт. | Количество реплицируемых таблиц в режиме «только для чтения» (chi_clickhouse_metric_ReadonlyReplica). |
Таблицы / Базы данных, шт. | Количество таблиц (chi_clickhouse_metric_NumberOfTables) и баз данных (chi_clickhouse_metric_NumberOfDatabases). |
Статистика по таблицам | Основные метрики таблиц базы данных:
|
На сервисном дашборде Сервер настроены виджеты:
Название виджета | Описание |
|---|---|
Запросы в секунду | Количество запросов, выполняемых каждую секунду (chi_clickhouse_event_Query). |
SELECT-запросы в секунду | Количество SELECT-запросов, выполняемых каждую секунду (chi_clickhouse_event_SelectQuery). |
INSERT-запросы в секунду | Количество INSERT-запросов, выполняемых каждую секунду (chi_clickhouse_event_InsertQuery). |
Время работы | Среднее время непрерывной работы сервера (логарифмическая шкала) (chi_clickhouse_metric_Uptime). |
Ошибки DNS и распределенных подключений | Количество ошибок:
|
Репликация | Информация о хостах (репликах) в режимах «только для чтения» (chi_clickhouse_metric_ReadonlyReplica) и «частичное отключение» (chi_clickhouse_event_ReplicaPartialShutdown), сессиях (chi_clickhouse_metric_ZooKeeperSession) и запросах на инициализацию Keeper (chi_clickhouse_event_ZooKeeperInit). |
INSERT-запросы: Отложенные / Отклоненные / В ожидании выполнения | Количество запросов INSERT, которые были отложены (delayed), отклонены (rejected) или находятся в ожидании выполнения (pending):
|
Используемая память для запросов | Общий объем памяти в байтах, выделенной для выполняемых в данный момент запросов (chi_clickhouse_metric_MemoryTracking). |
Вставленные строки | Количество строк, вставленных через INSERT-запросы во все таблицы (chi_clickhouse_event_InsertedRows). |
Очередь репликации | Суммарная очередь репликации всех таблиц. |
Максимальная задержка репликации | Максимальная задержка репликации в секундах среди всех таблиц (chi_clickhouse_metric_ReplicasMaxAbsoluteDelay). |
Запросы к транзакциям Keeper | Количество запросов на транзакции в Keeper в секунду (chi_clickhouse_event_ZooKeeperTransactions). |
Фоновые слияния | Интенсивность фоновых процессов слияния данных (chi_clickhouse_event_Merge). |
Объединенные строки | Количество строк, которые были обработаны и объединены в процессе фоновых слияний (chi_clickhouse_event_MergedRows). |
Несжатые данные при слиянии | Количество несжатых байт данных, обработанных в процессе фоновых слияний (chi_clickhouse_event_MergedUncompressedBytes). |
Активные части данных | Количество активных частей данных, которые доступны для запросов и не участвуют в процессах слияния или удаления (chi_clickhouse_table_parts). |
Отключенные части данных | Количество частей данных на диске, которые были отделены от активных частей данных и не участвуют в запросах (chi_clickhouse_metric_DetachedParts). |
Максимальное количество частей для партиции | Максимальное количество частей данных в одной партиции таблицы (chi_clickhouse_metric_MaxPartCountForPartition). |
Используемая память ClickHouse | Объем памяти, выделенный для работы сервера ClickHouse:
|
Память первичных ключей | Объем памяти для хранения первичных ключей в таблицах (chi_clickhouse_metric_MemoryPrimaryKeyBytesAllocated). |
Память словарей | Объем памяти для хранения словарей (chi_clickhouse_metric_MemoryDictionaryBytesAllocated). |
Свободное дисковое пространство | Объем свободного места на диске. Рассчитывается как отношение свободного пространства на диске (chi_clickhouse_metric_DiskFreeBytes) к общему объему диска (chi_clickhouse_metric_DiskTotalBytes) для каждого сервера ClickHouse. |
Объем данных на диске | Общий объем дискового пространства, который занимают данные, хранящиеся в базе данных ClickHouse (chi_clickhouse_metric_DiskDataBytes). |
Подключения | Число текущих подключений для каждого сервера:
|
Фоновые задачи | На графике отображаются:
|
Мутации данных | Количество активных мутаций данных ALTER DELETE/ALTER UPDATE (chi_clickhouse_table_mutations) и число затронутых партиций таблиц (chi_clickhouse_table_mutations_parts_to_do). |
Процент попаданий в кеш меток | Процент успешных обращений к кешу меток, когда данные были извлечены из кеша в оперативной памяти вместо чтения с диска. Рассчитывается как отношение суммы обращений, завершившихся попаданием в кеш (chi_clickhouse_event_MarkCacheHits), к общему количеству обращений к кешу (chi_clickhouse_event_MarkCacheHits + chi_clickhouse_event_MarkCacheMisses). |
CPU | Метрики загрузки процессора для каждого сервера:
|
CPU (сеть/диск) | Время, затраченное процессором на сетевые и дисковые операции:
|
Средняя нагрузка за 1 минуту | Показатель нагрузки на систему за последнюю минуту (chi_clickhouse_metric_LoadAverage1). |
Общее время CPU | Общее время, затраченное процессором на выполнение всех операций. |
Дашборд поддерживает следующие настройки и опции:
Выбор периода сбора данных. По умолчанию отображаются данные за последние 2 часа.
Выбор интервала автообновления данных. По умолчанию обновляются каждые 30 секунд.
Выгрузка графика в PNG-файл.
Просмотр графика в развернутом режиме.
Сервисный дашборд можно дублировать как пользовательский, а затем настроить его под себя или посмотреть, какие метрики и запросы используются в виджетах.
Метрика представляет собой временной ряд, показывающий изменение какого-либо показателя. Например, это может быть загрузка процессора, объем занятого дискового пространства или количество запросов к базе данных.
В сервисе мониторинга метрики используются для создания виджетов дашборда и настройки правил алертов. Значения метрик для этого получают и преобразуют с помощью запроса в PromQL-формате.
Подробнее о работе с метриками.
Название метрики, единица измерения | Описание |
|---|---|
chi_clickhouse_metric_fetch_errors, шт. | Количество ошибок при получении метрик от сервера ClickHouse. |
chi_clickhouse_metric_ReadonlyReplica, шт. | Количество реплицируемых таблиц в режиме «только для чтения». |
chi_clickhouse_metric_NumberOfTables, шт. | Количество таблиц. |
chi_clickhouse_metric_NumberOfDatabases, шт. | Количество баз данных. |
chi_clickhouse_table_parts_bytes, байт | Суммарный размер частей таблицы на диске. |
chi_clickhouse_table_parts_rows, шт. | Число строк в таблице. |
chi_clickhouse_table_parts, шт. | Количество активных частей (parts) таблицы. |
chi_clickhouse_event_Query, шт. | Количество запросов, выполняемых каждую секунду. |
chi_clickhouse_event_SelectQuery, шт. | Количество SELECT-запросов, выполняемых каждую секунду. |
chi_clickhouse_event_InsertQuery, шт. | Количество INSERT-запросов, выполняемых каждую секунду. |
chi_clickhouse_metric_Uptime | Время непрерывной работы сервера. |
chi_clickhouse_event_NetworkErrors | Сетевые ошибки при работе сервера, шт. |
chi_clickhouse_event_DistributedConnectionFailAtAll, шт. | Неудачные попытки подключения к удаленным узлам в кластере. |
chi_clickhouse_event_DistributedConnectionFailTry, шт. | Количество попыток подключения к удаленным узлам, завершившихся ошибкой. |
chi_clickhouse_event_DNSError, шт. | Ошибки DNS при обращении к другим серверам. |
chi_clickhouse_event_ReplicaPartialShutdown, шт. | Количество событий частичного отключения реплики. |
chi_clickhouse_event_ZooKeeperInit, шт. | Количество инициализаций Keeper. |
chi_clickhouse_metric_ZooKeeperSession, шт. | Количество активных сессий Keeper. |
chi_clickhouse_metric_MemoryTracking, байт | Общий объем отслеживаемой памяти, выделенной сервером ClickHouse. |
chi_clickhouse_event_InsertedRows, шт. | Количество строк, вставленных через INSERT-запросы во все таблицы. |
chi_clickhouse_metric_ReplicasMaxAbsoluteDelay, с | Максимальная задержка репликации в секундах среди всех таблиц. |
chi_clickhouse_event_ZooKeeperTransactions, с | Количество запросов на транзакции в Keeper в секунду. |
chi_clickhouse_event_Merge | Количество запущенных фоновых процессов слияния данных. |
chi_clickhouse_event_MergedRows, шт. | Количество строк, которые были обработаны и объединены в процессе фоновых слияний. |
chi_clickhouse_event_MergedUncompressedBytes, байт | Количество несжатых байт данных, обработанных в процессе фоновых слияний. |
chi_clickhouse_metric_DetachedParts, шт. | Количество частей данных на диске, которые были отделены от активных частей данных и не участвуют в запросах. |
chi_clickhouse_metric_MaxPartCountForPartition, шт. | Максимальное количество частей данных в одной партиции таблицы. |
chi_clickhouse_metric_MemoryVirtual, байт | Виртуальная память, используемая процессом или задачей. Включает в себя весь код, данные и общие библиотеки, а также страницы, которые были вытеснены. |
chi_clickhouse_metric_MemoryResident, байт | Физическая память, используемая процессом, который не был вытеснен. |
chi_clickhouse_metric_MemoryCode, байт | Часть RES-памяти, занимаемая исполняемым кодом программы. |
chi_clickhouse_metric_MemoryDataAndStack, байт | Часть RES-памяти, используемой для хранения данных помимо исполняемого кода. |
Память, которая делится между несколькими процессами. | |
chi_clickhouse_metric_MemoryPrimaryKeyBytesAllocated, байт | Объем памяти для хранения первичных ключей в таблицах. |
chi_clickhouse_metric_MemoryDictionaryBytesAllocated, байт | Объем памяти для хранения словарей. |
chi_clickhouse_metric_DiskFreeBytes, байт | Объем свободного пространства на диске. |
chi_clickhouse_metric_DiskTotalBytes, байт | Общий объем диска. |
chi_clickhouse_metric_DiskDataBytes, байт | Общий объем дискового пространства, который занимают данные, хранящиеся в базе данных ClickHouse. |
chi_clickhouse_metric_TCPConnection, шт. | Число текущих TCP-подключений для каждого сервера. |
chi_clickhouse_metric_HTTPConnection, шт. | Число текущих HTTP-подключений для каждого сервера. |
chi_clickhouse_metric_InterserverConnection, шт. | Число межсерверных соединений для каждого сервера. |
chi_clickhouse_metric_MySQLConnection, шт. | Число MySQL-подключений для каждого сервера. |
chi_clickhouse_metric_BackgroundPoolTask, шт. | Количество задач, выполняемых в фоновом режиме. |
chi_clickhouse_metric_BackgroundMovePoolTask, шт. | Количество задач, связанных с перемещением данных в фоновом режиме. |
chi_clickhouse_metric_BackgroundSchedulePoolTask, шт. | Количество задач, выполняемых по расписанию в фоновом режиме. |
chi_clickhouse_table_mutations, шт. | Количество активных мутаций данных ALTER DELETE/ALTER UPDATE. |
chi_clickhouse_table_mutations_parts_to_do, шт. | Количество частей (parts), которые осталось мутировать. |
chi_clickhouse_event_MarkCacheHits, шт. | Количество обращений, завершившихся попаданием в кеш. |
chi_clickhouse_event_MarkCacheMisses, шт. | Количество обращений, не завершившихся попаданием в кеш. |
chi_clickhouse_event_RealTimeMicroseconds, мкс | Суммарное «реальное» (wall-clock) время выполнения операций. |
chi_clickhouse_event_UserTimeMicroseconds, мкс | Время работы процессора в пользовательском режиме (user time). |
chi_clickhouse_event_SystemTimeMicroseconds, мкс | Время работы процессора в системном режиме (system time). |
chi_clickhouse_event_OSIOWaitMicroseconds, мкс | Время ожидания ввода-вывода на уровне ОС (I/O wait). |
chi_clickhouse_event_OSCPUWaitMicroseconds, мкс | Время ожидания выделения CPU со стороны ОС (CPU wait). |
chi_clickhouse_event_OSCPUVirtualTimeMicroseconds, мкс | «Виртуальное» процессорное время, выделенное процессу ОС. |
chi_clickhouse_event_DiskReadElapsedMicroseconds, мкс | Время, затраченное на системные вызовы чтения с диска (Disk Read syscall). |
chi_clickhouse_event_DiskWriteElapsedMicroseconds, мкс | Время, затраченное на системные вызовы записи на диск (Disk Write syscall). |
chi_clickhouse_event_NetworkReceiveElapsedMicroseconds, мкс | Время, затраченное на прием данных по сети (Network Receive). |
chi_clickhouse_event_NetworkSendElapsedMicroseconds, мкс | Время, затраченное на отправку данных по сети (Network Send). |
chi_clickhouse_metric_LoadAverage1 | Показатель нагрузки на систему за последнюю минуту. |
chi_clickhouse_event_CompileExpressionsMicroseconds, мкс | Общее время, затраченное на компиляцию выражений. |
chi_clickhouse_event_DelayedInserts, шт. | Количество запросов INSERT, которые были задержаны. |
chi_clickhouse_event_DelayedInsertsMilliseconds, мс | Общее время задержки INSERT-запросов. |
chi_clickhouse_event_InsertQueryTimeMicroseconds, мкс | Общее время выполнения всех INSERT-запросов в микросекундах. |
chi_clickhouse_event_MergesTimeMilliseconds, мс | Общее время выполнения фоновых слияний (merges) данных. |
chi_clickhouse_event_RWLockReadersWaitMilliseconds, мс | Общее время ожидания для читателей (readers) в механизме блокировок чтения-записи. |
chi_clickhouse_event_RWLockWritersWaitMilliseconds, мс | Общее время ожидания для писателей (writers) в механизме блокировок чтения-записи. |
chi_clickhouse_event_RejectedInserts, шт. | Количество INSERT-запросов, которые были отклонены. |
chi_clickhouse_event_ReplicatedDataLoss, шт. | Счетчик потерь данных в реплицируемых таблицах. |
chi_clickhouse_event_ReplicatedPartChecks, шт. | Количество проверок частей данных, выполненных в процессе репликации. |
chi_clickhouse_event_ReplicatedPartChecksFailed, шт. | Количество неудачных проверок частей данных при репликации. |
chi_clickhouse_event_ReplicatedPartFailedFetches, шт. | Количество неудачных попыток загрузки (fetch) частей данных с других реплик. |
chi_clickhouse_event_ReplicatedPartFetches, шт. | Количество успешных загрузок (fetch) частей данных с других реплик. |
chi_clickhouse_event_ReplicatedPartFetchesOfMerged, шт. | Количество загрузок частей данных, которые были результатом слияния на другой реплике. |
chi_clickhouse_event_ReplicatedPartMerges, шт. | Количество слияний (merges), выполненных для реплицируемых таблиц. |
chi_clickhouse_event_S3ReadMicroseconds, мкс | Общее время, затраченное на операции чтения из хранилища S3. |
chi_clickhouse_event_S3WriteMicroseconds, мкс | Общее время, затраченное на операции записи в хранилище S3. |
chi_clickhouse_event_SelectQueryTimeMicroseconds, мкс | Общее время выполнения всех SELECT-запросов. |
chi_clickhouse_event_ThrottlerSleepMicroseconds, мкс | Общее время, которое запросы находились в режиме ожидания (сна) из-за ограничений скорости (throttling), накладываемых на дисковые или сетевые операции. |
chi_clickhouse_metric_BrokenDistributedFilesToInsert, шт. | Количество файлов для распределенных (Distributed) таблиц, которые не удалось обработать и которые были помечены как «сломанные». |
chi_clickhouse_metric_DelayedInserts, шт. | Текущее количество задержанных INSERT-запросов в очереди. |
chi_clickhouse_metric_DistributedFilesToInsert, шт. | Количество файлов, ожидающих отправки для распределенных таблиц. |
chi_clickhouse_metric_Query, шт. | Текущее количество одновременно выполняющихся запросов всех типов. |
chi_clickhouse_metric_ReplicasMaxRelativeDelay, с | Максимальная относительная задержка репликации. |
chi_clickhouse_metric_ReplicasSumInsertsInQueue, шт. | Суммарный размер очереди вставок (INSERT) для всех реплицируемых таблиц. |
chi_clickhouse_metric_ReplicasSumMergesInQueue, шт. | Суммарный размер очереди слияний (MERGE) для всех реплицируемых таблиц. |
chi_clickhouse_metric_VersionInteger | Версия ClickHouse, представленная в виде целого числа. |