Настройка изоляции запросов большого объёма для кластера Elasticsearch

Сценарий

Изоляция запросов большого объёма может эффективно решить следующие проблемы и повысить производительность поиска в кластерах:

• Небольшое количество запросов занимает большие фрагменты heap‑памяти узла, вызывая частый Garbage Collection (GC) и даже исключения out of memory (OOM).
• Частый GC приводит к отключениям узлов. В результате запросы не получают ответ и могут завершиться с ошибкой.
• Использование CPU высоко из‑за большой нагрузки запросов, что влияет на онлайн‑сервисы.

Ограничения

Вход в Kibana

1. Войдите в консоль управления CSS.
2. В навигационной панели слева выберите Clusters > Elasticsearch.
3. В списке кластеров найдите целевой кластер и щелкните Kibana в Операция столбце, чтобы войти в консоль Kibana.
4. В левой навигационной панели выберите Dev Tools.

   Левая часть консоли — это поле ввода команд, а треугольный значок в её правом верхнем углу является кнопкой выполнения. Правая часть отображает результат выполнения.

Enabling Large Query Isolation

Выполните следующие команды, чтобы включить изоляцию крупного запроса и глобальный таймаут запроса:

PUT _cluster/settings
{
  "persistent": {
    "search.isolator.enabled": true,
    "search.isolator.time.enabled": true
  }
}

Настройка порогов изоляции крупных запросов

• Выполните следующие команды, чтобы настроить пороги для определения крупной задачи запроса:

  PUT _cluster/settings
  {
    "persistent": {
      "search.isolator.memory.task.limit": "50MB",
      "search.isolator.time.management": "10s"
    }
  }
  
  

  Таблица 2 Параметры настройки порогов изоляции больших запросов

  Параметр	Тип	Описание
  search.isolator.memory.task.limit	String	Порог памяти, запрашиваемой задачей запроса для выполнения агрегации или других операций. Если запрашиваемая память превышает порог, задача будет изолирована и наблюдаться. Диапазон значений: 0b до максимальной кучи памяти узла Значение по умолчанию: 50MB
  search.isolator.time.management	String	Порог продолжительности запроса (начинается, когда ресурсы кластера используются для запроса). Если продолжительность запроса превышает порог, запрос будет изолирован и наблюдаться. Диапазон значений: ≥ 0ms Значение по умолчанию: 10s

• Настройте пороги использования ресурсов для запуска изоляции задач запросов.

  PUT _cluster/settings
  {
    "persistent": {
      "search.isolator.memory.pool.limit": "50%",
      "search.isolator.memory.heap.limit": "90%",
      "search.isolator.count.limit": 1000
    }
  }
  
  

  Таблица 3 Параметры настройки порогов пула изоляции

  Параметр	Тип	Описание
  search.isolator.memory.pool.limit	String	Порог процента памяти кучи текущего узла. Если общий объём памяти, запрашиваемый большими задачами запросов в пуле изоляции, превышает порог, будет запущена программа управления прерываниями для отмены одной из задач. Диапазон значений: 0.0 до 100.0% Значение по умолчанию: 50%
  search.isolator.memory.heap.limit	Строка	Порог heap‑памяти текущего узла. Если heap‑память узла превышает порог, будет запущена программа управления прерываниями для отмены крупной задачи запроса в пуле изоляции. Диапазон значений: 0.0 по 100.0% Значение по умолчанию: 90%
  search.isolator.count.limit	Целое	Порог количества крупных задач запросов в пуле изоляции текущего узла. Если количество наблюдаемых задач запросов превышает порог, будет запущена программа управления прерываниями для прекращения приёма новых крупных запросов. Новые запросы на крупные запросы будут отменены напрямую. Диапазон значений: 10–50000 Значение по умолчанию: 1000

  Note

  В дополнение к search.isolator.memory.pool.limit и search.isolator.count.limit параметры, вы можете настроить search.isolator.memory.task.limit и search.isolator.time.management для контроля количества задач запросов, попадающих в изоляционный пул.

• Настройте политику выбора задач запросов для паузы в изоляционном пуле.

  PUT _cluster/settings
  {
    "persistent": {
      "search.isolator.strategy": "fair",
      "search.isolator.strategy.ratio": "0.5%"
    }
  }
  
  

  Таблица 4 Параметры конфигурации политики отмены запросов

  Параметр	Тип	Описание
  search.isolator.strategy	String	Политика выбора больших запросов при срабатывании программы управления прерываниями. Выбранные запросы будут прерваны. ПРИМЕЧАНИЕ: Большой пул изоляции запросов проверяется каждую секунду, пока память кучи не находится в безопасном диапазоне. Значения: справедливый, mem-first, или time-first mem-first: Задача запроса, использующая наибольшее количество памяти кучи в пуле изоляции, прерывается. time-first: Задача запроса, работающая дольше всего во времени в пуле изоляции, прерывается. справедливый: Если разница между памятью кучи запросов шарда меньше чем Maximum_heap_memory x search.isolator.strategy.ratio, запрос, который занимает самое длительное время, должен быть прерван. В противном случае запрос, использующий наибольший объём кучи памяти, прерывается. Значение по умолчанию: справедливо
  search.isolator.strategy.ratio	String	Порог справедливо политика. Этот параметр вступает в силу только если search.isolator.strategy установлен в справедливо. Если разница между использованием памяти больших задач запросов не превышает порог, запрос, который занимает самое длительное время, должен быть прерван. Если разница между использованием памяти больших задач запросов превышает порог, запрос, использующий наибольший объём памяти, прерывается. Диапазон значений: 0.0 до 100.0% Значение по умолчанию: 1%

Настройка глобального тайм‑аута запросов

Выполните следующую команду, чтобы установить глобальный тайм‑аут задач запросов:

PUT _cluster/settings
{
  "persistent": {
    "search.isolator.time.limit": "120s"
  }
}

Настройка максимального количества записей журнала для отменённых запросов

Выполните следующую команду, чтобы установить максимальное количество записей журнала, сохраняемых для отменённых запросов:

PUT _cluster/settings
{
  "persistent": {
    "search.isolator.log.count": "100"
  }
}