Облачная платформаEvolution

Опции подключений PXF


В этом разделе приведены описания дополнительных опций, которые можно задать при настройке подключений PXF (Platform Extension Framework).

Дополнительные опции коннектора Kafka

Основные опции

Опция

Описание

Значение

KAFKA_ADMIN_CONNECTION_TIMEOUT

Период времени в миллисекундах, в течение которого допускается завершение текущих операций в случае закрытия соединения с Kafka.

Значение по умолчанию: 30000.

BATCH_SIZE

Число строк, которое должно помещаться в одно сообщение Avro.

Значение по умолчанию: 1.

TOPIC_AUTO_CREATE_FLAG

Необходимость автоматического создания топика в Kafka. Топик будет создан с одной партицией и фактором репликации 1.

Значение по умолчанию: true.

AVRO_DEFAULT_DECIMAL_PRECISION

Максимальное количество знаков в числах без учета десятичного разделителя.

Значение по умолчанию: 38.

AVRO_DEFAULT_DECIMAL_SCALE

Максимальное количество знаков после десятичного разделителя в числах.

Значение по умолчанию: 18. Не должно превышать значение AVRO_DEFAULT_DECIMAL_PRECISION.

Опции Kafka

Опция

Описание

Значение

SECURITY_PROTOCOL

Протокол соединения с брокерами Kafka.

Возможные значения:

  • PLAINTEXT — по умолчанию;

  • SASL_PLAINTEXT — аутентификация SASL без шифрования;

  • SASL_SSL — аутентификация SASL по протоколу SSL;

  • SSL — односторонняя и двусторонняя аутентификация.

SASL_MECHANISM

SASL-механизм для клиентских соединений.

По умолчанию не указан. Возможные значения: PLAIN, GSSAPI, SCRAM-SHA-256, SCRAM-SHA-512.

TRUCTSTORE_LOCATION

Путь к truststore-файлу.

—

TRUSTSTORE_PASSWORD

Пароль для доступа к truststore-файлу.

—

KEYSTORE_LOCATION

Путь к keystore-файлу.

—

KEYSTORE_PASSWORD

Пароль для доступа к keystore-файлу.

—

KERBEROS_SERVICE_NAME

Имя Kerberos-принципала, используемого Kafka.

—

JAAS при SASL и GSSAPI (Kerberos)

Опция

Описание

Значение

KERBEROS_PRINCIPAL

Имя принципала Kerberos, которое может быть как именем пользователя, так и названием сервиса.

—

KERBEROS_KEYTAB

Имя keytab-файла для получения секретного ключа принципала.

—

KERBEROS_USE_KEYTAB

Необходимость получения секретного ключа принципала из keytab.

Значение по умолчанию: true.

KERBEROS_STORE_KEY

Необходимость хранения keytab или ключа принципала в Subject private credentials.

Значение по умолчанию: true.

KERBEROS_USE_TICKET_CACHE

Необходимость получения TGT (ticket-granting ticket) из кеша тикетов.

Значение по умолчанию: false.

KERBEROS_DEBUG

Вывод отладочных сообщений.

Значение по умолчанию: false.

JAAS_CONFIG_FILE

Путь к конфигурационному файлу JAAS.

—

JAAS при SASL и PLAIN, SCRAM-SHA-256

Опция

Описание

Значение

SASL_USER

Имя пользователя для клиентских подключений.

—

SASL_USER_PASSWORD

Пароль пользователя SASL_USER.

—

SASL_USER_CONFIG_FILE

Путь к конфигурационному файлу JAAS.

—

Дополнительные опции коннектора JDBC

Основные опции

Опция

Описание

Значение

connection.property.createDatabaseIfNotExist

Добавление соединения JDBC с базой данных PostgreSQL.

Значение по умолчанию: true.

connection.transactionIsolation

Уровень изоляции транзакций.

Возможные значения: READ_UNCOMMITTED, READ_COMMITTED, REPEATABLE_READ, SERIALIZABLE.

statement.batchSize

Количество строк для записи во внешнюю таблицу базы за один батч.

Значение по умолчанию: 100.

statement.fetchSize

Количество строк для извлечения или буферизации при чтении из внешней таблицы базы данных.

Для баз данных MySQL значение по умолчанию: 2147483648. Для остальных баз данных значение по умолчанию: 1000.

statement.writeSize

Количество строк для группировки в пакет перед записью во внешнюю таблицу базы данных.

Значение по умолчанию: 100.

statement.queryTimeout

Время ожидания в секундах, в течение которого JDBC ждет выполнения запроса. Применяется к операциям чтения и записи.

По умолчанию время ожидания не ограничено.

read.prepared-statement

Использование PreparedStatement вместо Statement при чтении данных из внешнего источника.

Значение по умолчанию: false.

date.wideRange

Cпециальный анализ дат для случаев, когда год содержит более четырех букв или цифр.

Значение по умолчанию: false. При установке значения true для анализа дат используются расширенные классы, позволяющие распознавать годы с указанием BC или AD.

pool.enabled

Пул подключений для конфигурации JDBC-сервера.

Значение по умолчанию: true.

pool.property.maximumPoolSize

Максимальное количество подключений к бэкенду базы данных.

Значение по умолчанию: 15.

pool.property.connectionTimeout

Максимальное время ожидания подключения из пула в миллисекундах.

Значение по умолчанию: 30000.

pool.property.idleTimeout

Максимальное время в миллисекундах, по достижении которого неактивное соединение считается простаивающим.

Значение по умолчанию: 30000.

pool.property.minimumIdle

Минимальное количество поддерживаемых простаивающих подключений в пуле.

Значение по умолчанию: 0.

pool.qualifier

Включение значений свойств в критерии, используемые для создания и повторного использования пулов подключений.

Значение меняется в зависимости от пользователя, сессии или транзакции. По умолчанию не установлено.

session.property.search_path

Установка свойства search_path на уровне сессии.

Значение свойства.

session.property.session_user

Установка свойства session_user на уровне сессии.

Значение свойства.

connection.property.SSLTrustStorePath

Путь к truststore-файлу.

—

connection.property.SSLTrustStorePassword

Пароль для доступа к truststore-файлу.

—

Дополнительные опции коннектора Tkhemali

Опции внешней таблицы

Опция

Описание

Значение

distribution

Тип распределения нагрузки между хостами ClickHouse.

Возможные значения:

  • LIST — хост выбирается случайным образом из списка, указанного в опции url. Значение по умолчанию.

  • GPREQUEST — хост выбирается из списка хостов, возвращенного запросом gp_request, с использованием алгоритма round-robin.

gp_url

URL мастер-хоста Managed ArenadataDB для выполнения запроса gp_request.

—

gp_user

Имя пользователя Managed ArenadataDB для выполнения запроса gp_request.

—

gp_password

Пароль пользователя Managed ArenadataDB для выполнения запроса gp_request.

—

lines_batch_size

Максимальное количество строк в батче данных, отправляемых в Clickрouse со стороны коннектора.

Целое положительное число. Значение по умолчанию: 100000.

bytes_batch_size_mb

Максимальный размер батча данных в мегабайтах, отправляемых в ClickHouse со стороны коннектора. При одновременном указании lines_batch_size будет использоваться значение bytes_batch_size_mb.

Целое положительное число.

send_compressed

Использование сжатия данных на стороне коннектора перед отправкой в ClickHouse.

Значение по умолчанию: false.

send_delay

Задержка между запросами со стороны коннектора к ClickHouse в миллисекундах.

Целое положительное число. Значение по умолчанию: 300.

insert_distributed_sync

Режим синхронного добавления данных в распределенные таблицы.

Возможные значения:

  • true — данные вставляются синхронно, запрос INSERT считается выполненным успешно, когда все данные записаны на все шарды. Значение по умолчанию.

  • false — данные вставляются асинхронно.