Облачная платформаAdvanced

Создание эластичного пула ресурсов и создание очередей в нём

Язык статьи: Русский
Показать оригинал
Страница переведена автоматически и может содержать неточности. Рекомендуем сверяться с английской версией.

Эластичный пул ресурсов предоставляет вычислительные ресурсы (CPU и память), необходимые для выполнения заданий DLI, которые могут адаптироваться к меняющимся требованиям сервисов.

В эластичном пуле ресурсов можно создать несколько очередей. Эти очереди связаны с конкретными заданиями и задачами обработки данных и служат базовой единицей распределения и использования ресурсов в пуле. Это означает, что очереди представляют собой специфические вычислительные ресурсы, необходимые для выполнения заданий.

Очереди в эластичном пуле ресурсов могут совместно использоваться для выполнения заданий. Это достигается правильной настройкой queue allocation policy. Такой подход повышает эффективность использования очередей. В этом разделе описывается, как создать эластичный пул ресурсов и создать очереди в нём.

Note

Эластичные пулы ресурсов DLI физически изолированы, тогда как очереди в одном эластичном пуле ресурсов логически изолированы.

Рекомендуется создавать отдельные эластичные пулы ресурсов для тестовых и производственных сценариев, чтобы обеспечить независимость и безопасность управления ресурсами за счёт физической изоляции.

Примечания и ограничения

Table 1 Примечания и ограничения на эластичные пулы ресурсов

Элемент

Описание

Спецификации ресурсов

  • Эластичный пул ресурсов в настоящее время поддерживает до 32 000 CUs.

Управление эластичными пулами ресурсов

  • Нельзя изменить регион эластичного пула ресурсов после его создания.
  • Задания Flink версии 1.10 и новее могут выполняться в эластичных пулах ресурсов.
  • CIDR block elastic resource pool нельзя изменить после установки.
  • Вы можете просматривать только историю масштабирования elastic resource pool в течение 30 дней.
  • Elastic resource pools не могут напрямую обращаться к Internet.

Масштабирование elastic resource pool

  • Изменения CUs elastic resource pool могут происходить при установке CU, добавлении или удалении очередей в elastic resource pool, изменении политик масштабирования очередей в elastic resource pool или когда система автоматически инициирует масштабирование elastic resource pool. Однако в некоторых случаях система не может гарантировать, что масштабирование достигнет целевых CUs согласно плану.
    • Если физических ресурсов недостаточно, elastic resource pool может не масштабироваться до требуемого целевого размера.
    • Система не гарантирует, что elastic resource pool будет масштабирован до желаемого целевого размера.

      Система проверяет использование ресурсов перед масштабированием elastic resource pool, чтобы определить, достаточно ли места для масштабирования. Если существующие ресурсы нельзя масштабировать в соответствии с минимальным шагом масштабирования, пул может не быть масштабирован успешно или только частично.

      Шаг масштабирования может различаться в зависимости от характеристик ресурсов, обычно 16 CUs, 32 CUs, 48 CUs, 64 CUs и более.

      Например, если elastic resource pool имеет ёмкость 192 CUs, а очереди в пуле используют 68 CUs из‑за запущенных задач, планируется масштабировать до 64 CUs.

      При выполнении задачи масштабирования система определяет, что остаётся 124 CUs, и масштабирует на минимальный шаг 64 CUs. Однако оставшиеся 60 CUs дальше масштабировать нельзя. Поэтому после выполнения задачи масштабирования elastic resource pool его ёмкость снижается до 128 CUs.

Создание Elastic Resource Pool

  1. В панели навигации слева выберите Resources > Resource Pool.
  2. На отображаемой странице нажмите Buy Resource Pool в правом верхнем углу.
  3. На отображаемой странице задайте следующие параметры:

    Table 2 Описание параметров

    Parameter

    Description

    Region

    Выберите регион, в котором вы хотите приобрести эластичный пул ресурсов. Регион относится к местоположению физического дата-центра эластичного пула ресурсов. Выберите регион, расположенный ближе к вам, чтобы обеспечить минимальную задержку.

    Project

    Каждый регион соответствует проекту.

    Name

    Имя эластичного пула ресурсов.

    • Разрешены только цифры, буквы и символы подчеркивания (_). Значение не может состоять только из цифр, а также не может начинаться с подчеркивания (_) или цифры.
    • Значение может содержать не более 128 символов.
    ПРИМЕЧАНИЕ:

    Имя эластичного пула ресурсов не чувствительно к регистру. Прописные буквы будут автоматически преобразованы в строчные.

    Type

    • Basic edition: offers 16 CUs to 64 CUs
      • Это издание подходит для тестовых сценариев с низким потреблением ресурсов и низкими требованиями к надежности и доступности ресурсов.
      • High reliability and availability are not supported.
      • Job priorities cannot be set.
    • Standard edition: предлагает не менее 64 CU.

      Это издание предлагает мощные вычислительные возможности, высокую доступность и гибкое управление ресурсами. Оно подходит для крупномасштабных вычислительных задач и бизнес‑сценариев с долгосрочными потребностями в планировании ресурсов.

    CU Range

    Максимальное и минимальное количество CU, разрешённые для elastic resource pool.

    Настройки CU используются для контроля максимального и минимального диапазонов CU при масштабировании elastic resource pool, чтобы предотвратить риски неограниченного расширения ресурсов.

    В CU Range задайте минимальное количество CU слева и максимальное количество CU справа.

    • Общее минимальное количество CU всех очередей в elastic resource pool не должно превышать минимальное количество CU пула.
    • Максимальное количество CU любой очереди в elastic resource pool не должно превышать максимальное количество CU пула.

    elastic resource pool должен как минимум обеспечивать возможность работы всех очередей в нём с минимальными CU и стараться обеспечить возможность работы всех очередей с максимальными CU.

    Характеристики elastic resource pool равны минимальному количеству CU, выделенному при создании. Это означает, что при первом создании elastic resource pool фактическое количество CU будет равно характеристикам, то есть минимальному количеству CU.

    Description

    Описание elastic resource pool

    CIDR Block

    CIDR block, к которому относится elastic resource pool. Если вы используете расширенное подключение datasource, этот CIDR block не может перекрывать CIDR block источника данных. После установки этот CIDR block нельзя изменить.

    Рекомендуемые CIDR blocks:

    10.0.0.0–10.255.0.0/16–19

    172.16.0.0–172.31.0.0/16–19

    192.168.0.0–192.168.0.0/16–19

    Enterprise Project

    Если созданный elastic resource pool относится к enterprise project, выберите enterprise project.

    Enterprise projects позволяют управлять облачными ресурсами и пользователями по проекту.

    NOTE:

    Этот параметр доступен только пользователям, подписанным на Enterprise Management Service.

    Tags

    Tags используются для идентификации облачных ресурсов. Тег включает ключ тега и значение тега. Если вы хотите использовать один и тот же тег для идентификации нескольких облачных ресурсов, то есть выбрать один и тот же тег из drop-down list box для всех сервисов, рекомендуется создать предопределённые теги в Tag Management Service (TMS).

    NOTE:
    • Можно добавить не более 20 tags.
    • К ключу тега можно добавить только одно значение тега.
    • Имя ключа в каждом ресурсе должно быть уникальным.
    • Tag key: Введите имя ключа тега в text box.
      ПРИМЕЧАНИЕ:

      Ключ тега может содержать максимум 128 символов. Допускаются только буквы, цифры, пробелы и специальные символы (_.:+-@), но значение не может начинаться или заканчиваться пробелом или начинаться с _sys_.

    • Значение тега: Введите значение тега в текстовое поле.
      ПРИМЕЧАНИЕ:

      Значение тега может содержать максимум 255 символов. Допускаются только буквы, цифры, пробелы и специальные символы (_.:+-@).

  4. нажмите Buy и подтвердите конфигурацию.
  5. нажмите Pay. Подождите, пока статус elastic resource pool не изменится на Available. Elastic resource pool успешно создан.
  6. Обратитесь к Example Use Case: Creating an Elastic Resource Pool and Running Jobs и Example Use Case: Configuring Scaling Policies for Queues in an Elastic Resource Pool для выполнения последующих операций по мере необходимости.

Создание очередей в Elastic Resource Pool

Создайте одну или несколько очередей в elastic resource pool для выполнения задач. В этом разделе описывается, как создать очередь в elastic resource pool.

Создание очереди в elastic resource pool вызовет изменения elastic resource CU.

  1. В панели навигации слева выберите Resources > Resource Pool.
  2. Найдите elastic resource pool, в котором вы хотите создать очереди, и нажмите Add Queue в столбце Operation.
  3. На странице Add Queue задайте основные параметры очереди в соответствии с таблицей ниже.

    Table 3 Основные параметры для добавления очереди

    Parameter

    Description

    Name

    Name of the queue to add

    Type

    • Для SQL: Очередь используется для выполнения SQL‑задач.
    • Для общего назначения: Очередь используется для выполнения задач Spark и Flink.

    Engine

    Если Type равен Для SQL, движок очереди может быть Spark или HetuEngine.

    Если HetuEngine выбран, минимальное количество CU SQL‑очереди не может быть меньше 96 CU.

    Чтобы использовать HetuEngine для отправки SQL‑задач, необходимо настроить DLI job bucket. Подробности см. Configuring a DLI Job Bucket.

    Enterprise Project

    Выберите enterprise project, к которому относится очередь. Очереди из разных enterprise project можно добавить в elastic resource pool.

    Enterprise projects позволяют управлять облачными ресурсами и пользователями по проекту.

    NOTE:

    Этот параметр доступен только для пользователей, подписанных на Enterprise Management Service.

    Description

    Описание очереди.

    Tags

    Теги, используемые для идентификации облачных ресурсов. Тег включает ключ тега и значение тега. Если вы хотите использовать один и тот же тег для идентификации нескольких облачных ресурсов, то есть выбрать один и тот же тег из раскрывающегося списка для всех сервисов, рекомендуется создавать предопределённые теги в Tag Management Service (TMS).

    NOTE:
    • Можно добавить не более 20 тегов.
    • Для ключа тега можно добавить только одно значение тега.
    • Имя ключа в каждом ресурсе должно быть уникальным.
    • Tag key: Введите имя ключа тега в текстовое поле.
      NOTE:

      Ключ тега может содержать не более 128 символов. Разрешены только буквы, цифры, пробелы и специальные символы (_.:+-@), но значение не может начинаться или заканчиваться пробелом и не может начинаться с _sys_.

    • Tag value: Введите значение тега в текстовое поле.
      NOTE:

      Значение тега может содержать не более 255 символов. Разрешены только буквы, цифры, пробелы и специальные символы (_.:+-@).

  4. Нажмите Next. На отображаемой странице настройте политику масштабирования для очереди в эластичном пуле ресурсов.

    Нажмите Create, чтобы добавить политику масштабирования с различными приоритетом, периодом, минимальными CUs и максимальными CUs. Параметры каждой политики масштабирования:

    Table 4 Параметры политики масштабирования

    Параметр

    Описание

    Приоритет

    Приоритет политики масштабирования в текущем эластичном пуле ресурсов. Большее значение указывает на более высокий приоритет. Можно задать число от 1 до 100.

    Период

    Временной отрезок, в который действует политика. Устанавливается только по часам. Время начала находится слева, а время окончания — справа.

    • Временной диапазон включает время начала, но не включает время окончания, то есть [время начала, время окончания).

      Например, если вы задаете Period как 01 и 17, политика масштабирования действует с 01:00 до 17:00.

    • Периоды политик масштабирования с разными приоритетами не должны пересекаться.

    Min CU

    Минимальное количество CUs, разрешённое политикой масштабирования.

    • В любой временной отрезок дня суммарное минимальное количество CUs всех очередей в эластичном пуле ресурсов не может превышать минимальное количество CUs пула.
    • Если минимальное количество CU очереди меньше 16 CU, оба Max. Spark Driver Instances и Max. Prestart Spark Driver Instances, заданные в свойствах очереди, не применяются. См. Setting Queue Properties.

    Для очереди HetuEngine SQL должно быть не менее 96 CU.

    Max CU

    Максимальное количество CU, разрешённое политикой масштабирования.

    В любом временном отрезке дня максимальное количество CU любой очереди в эластичном пуле ресурсов не может превышать максимальное количество CU пула.

    • Максимальное количество CU очереди в эластичном пуле ресурсов базовой версии должно быть кратным 4.
    • Максимальное количество CU очереди в эластичном пуле ресурсов стандартной версии должно быть кратным 16.

    Использовать Max CU пула ресурсов

    При выборе максимальное количество CU очередей равно максимальному количеству CU пула ресурсов в течение периода, указанного текущей политикой масштабирования.

    Увеличение максимального количества CU эластичного пула ресурсов автоматически приводит к согласованию максимального количества CU очереди без ручного вмешательства.

    Настройка действует только в течение периода, указанного текущей политикой масштабирования. Для остальных периодов необходимо вручную настроить ограничения CU.

    Note
    • Первая политика масштабирования является политикой по умолчанию, и её параметр Period нельзя удалить или изменить.
    • Задачи Flink не могут инициировать автоматическое масштабирование очередей в эластичном пуле ресурсов.

  5. Нажмите OK. Просмотрите все очереди и политики масштабирования, добавленные в эластичный пул ресурсов, обратившись к Adjusting Scaling Policies for Queues in an Elastic Resource Pool.