В этом разделе приведены описания дополнительных опций, которые можно задать при настройке подключений PXF (Platform Extension Framework).
Опция | Описание | Значение |
|---|---|---|
KAFKA_ADMIN_CONNECTION_TIMEOUT | Период времени в миллисекундах, в течение которого допускается завершение текущих операций в случае закрытия соединения с Kafka. | Значение по умолчанию: 30000. |
BATCH_SIZE | Число строк, которое должно помещаться в одно сообщение Avro. | Значение по умолчанию: 1. |
TOPIC_AUTO_CREATE_FLAG | Необходимость автоматического создания топика в Kafka. Топик будет создан с одной партицией и фактором репликации 1. | Значение по умолчанию: true. |
AVRO_DEFAULT_DECIMAL_PRECISION | Максимальное количество знаков в числах без учета десятичного разделителя. | Значение по умолчанию: 38. |
AVRO_DEFAULT_DECIMAL_SCALE | Максимальное количество знаков после десятичного разделителя в числах. | Значение по умолчанию: 18. Не должно превышать значение AVRO_DEFAULT_DECIMAL_PRECISION. |
Опция | Описание | Значение |
|---|---|---|
SECURITY_PROTOCOL | Протокол соединения с брокерами Kafka. | Возможные значения:
|
SASL_MECHANISM | SASL-механизм для клиентских соединений. | По умолчанию не указан. Возможные значения: PLAIN, GSSAPI, SCRAM-SHA-256, SCRAM-SHA-512. |
TRUCTSTORE_LOCATION | Путь к truststore-файлу. | — |
TRUSTSTORE_PASSWORD | Пароль для доступа к truststore-файлу. | — |
KEYSTORE_LOCATION | Путь к keystore-файлу. | — |
KEYSTORE_PASSWORD | Пароль для доступа к keystore-файлу. | — |
KERBEROS_SERVICE_NAME | Имя Kerberos-принципала, используемого Kafka. | — |
Опция | Описание | Значение |
|---|---|---|
KERBEROS_PRINCIPAL | Имя принципала Kerberos, которое может быть как именем пользователя, так и названием сервиса. | — |
KERBEROS_KEYTAB | Имя keytab-файла для получения секретного ключа принципала. | — |
KERBEROS_USE_KEYTAB | Необходимость получения секретного ключа принципала из keytab. | Значение по умолчанию: true. |
KERBEROS_STORE_KEY | Необходимость хранения keytab или ключа принципала в Subject private credentials. | Значение по умолчанию: true. |
KERBEROS_USE_TICKET_CACHE | Необходимость получения TGT (ticket-granting ticket) из кеша тикетов. | Значение по умолчанию: false. |
KERBEROS_DEBUG | Вывод отладочных сообщений. | Значение по умолчанию: false. |
JAAS_CONFIG_FILE | Путь к конфигурационному файлу JAAS. | — |
Опция | Описание | Значение |
|---|---|---|
SASL_USER | Имя пользователя для клиентских подключений. | — |
SASL_USER_PASSWORD | Пароль пользователя SASL_USER. | — |
SASL_USER_CONFIG_FILE | Путь к конфигурационному файлу JAAS. | — |
Опция | Описание | Значение |
|---|---|---|
connection.property.createDatabaseIfNotExist | Добавление соединения JDBC с базой данных PostgreSQL. | Значение по умолчанию: true. |
connection.transactionIsolation | Уровень изоляции транзакций. | Возможные значения: READ_UNCOMMITTED, READ_COMMITTED, REPEATABLE_READ, SERIALIZABLE. |
statement.batchSize | Количество строк для записи во внешнюю таблицу базы за один батч. | Значение по умолчанию: 100. |
statement.fetchSize | Количество строк для извлечения или буферизации при чтении из внешней таблицы базы данных. | Для баз данных MySQL значение по умолчанию: 2147483648. Для остальных баз данных значение по умолчанию: 1000. |
statement.writeSize | Количество строк для группировки в пакет перед записью во внешнюю таблицу базы данных. | Значение по умолчанию: 100. |
statement.queryTimeout | Время ожидания в секундах, в течение которого JDBC ждет выполнения запроса. Применяется к операциям чтения и записи. | По умолчанию время ожидания не ограничено. |
read.prepared-statement | Использование PreparedStatement вместо Statement при чтении данных из внешнего источника. | Значение по умолчанию: false. |
date.wideRange | Cпециальный анализ дат для случаев, когда год содержит более четырех букв или цифр. | Значение по умолчанию: false. При установке значения true для анализа дат используются расширенные классы, позволяющие распознавать годы с указанием BC или AD. |
pool.enabled | Пул подключений для конфигурации JDBC-сервера. | Значение по умолчанию: true. |
pool.property.maximumPoolSize | Максимальное количество подключений к бэкенду базы данных. | Значение по умолчанию: 15. |
pool.property.connectionTimeout | Максимальное время ожидания подключения из пула в миллисекундах. | Значение по умолчанию: 30000. |
pool.property.idleTimeout | Максимальное время в миллисекундах, по достижении которого неактивное соединение считается простаивающим. | Значение по умолчанию: 30000. |
pool.property.minimumIdle | Минимальное количество поддерживаемых простаивающих подключений в пуле. | Значение по умолчанию: 0. |
pool.qualifier | Включение значений свойств в критерии, используемые для создания и повторного использования пулов подключений. | Значение меняется в зависимости от пользователя, сессии или транзакции. По умолчанию не установлено. |
session.property.search_path | Установка свойства search_path на уровне сессии. | Значение свойства. |
session.property.session_user | Установка свойства session_user на уровне сессии. | Значение свойства. |
connection.property.SSLTrustStorePath | Путь к truststore-файлу. | — |
connection.property.SSLTrustStorePassword | Пароль для доступа к truststore-файлу. | — |
Опция | Описание | Значение |
|---|---|---|
distribution | Тип распределения нагрузки между хостами ClickHouse. | Возможные значения:
|
gp_url | URL мастер-хоста Managed ArenadataDB для выполнения запроса gp_request. | — |
gp_user | Имя пользователя Managed ArenadataDB для выполнения запроса gp_request. | — |
gp_password | Пароль пользователя Managed ArenadataDB для выполнения запроса gp_request. | — |
lines_batch_size | Максимальное количество строк в батче данных, отправляемых в Clickрouse со стороны коннектора. | Целое положительное число. Значение по умолчанию: 100000. |
bytes_batch_size_mb | Максимальный размер батча данных в мегабайтах, отправляемых в ClickHouse со стороны коннектора. При одновременном указании lines_batch_size будет использоваться значение bytes_batch_size_mb. | Целое положительное число. |
send_compressed | Использование сжатия данных на стороне коннектора перед отправкой в ClickHouse. | Значение по умолчанию: false. |
send_delay | Задержка между запросами со стороны коннектора к ClickHouse в миллисекундах. | Целое положительное число. Значение по умолчанию: 300. |
insert_distributed_sync | Режим синхронного добавления данных в распределенные таблицы. | Возможные значения:
|