Облачная платформаAdvanced

Миграция данных с помощью CDM

Язык статьи: Русский
Показать оригинал
Страница переведена автоматически и может содержать неточности. Рекомендуем сверяться с английской версией.

Организации часто используют разнородные платформы, при этом данные распределены между традиционными реляционными базами данных, такими как Oracle, и системами хранения, например Object Storage Service (OBS). Чтобы обеспечить высокопроизводительный полнотекстовый поиск и аналитику, эти данные часто необходимо перенести в OpenSearch. Однако миграция больших объёмов разнородных данных с помощью пользовательских скриптов обходится дорого и часто затрудняется сложными сетевыми конфигурациями и низкой эффективностью передачи. Сервис Cloud Data Migration (CDM) упрощает этот процесс, предоставляя управляемый сервис без кода, поддерживающий высокую параллельность и возобновляемые передачи. С помощью CDM вы можете быстро и безопасно мигрировать данные из баз данных Oracle или OBS в кластеры CSS OpenSearch.

Table 1 Внесение данных в CSS с помощью CDM

Сценарий

Источник данных

Кластер назначения

Внесение данных из базы данных Oracle в CSS

Локальная или сторонняя база данных Oracle

OpenSearch 1.3.6

Внесение данных из OBS в CSS

Файлы JSON/CSV в OBS Бакетах

OpenSearch 1.3.6

Подготовка

  1. Подключите сеть.
    • Убедитесь, что кластер CDM, кластер CSS и OBS Бакет находятся в одном VPC. Это обеспечивает передачу данных по внутренней сети для оптимальной скорости.
    • Если источник — локальная база данных Oracle, убедитесь, что CDM может получить к нему доступ через VPN, Direct Connect или public IP address.
  2. Получите информацию о подключении.
    • Получите частный сетевой адрес (например, 192.168.xxx.xxx:9200), имя пользователя и пароль кластера CSS. (Имя пользователя и пароль требуются только для кластера security-mode.)
    • Если источник — база данных Oracle, необходимо получить IP-адрес базы данных, порт, имя базы данных, имя пользователя и пароль.
    • Если источник — OBS, получите имя OBS бакета, доменное имя, порт, AK и SK.

Миграция данных

  1. Войдите в OpenSearch Dashboards и перейдите на страницу выполнения команд.
    1. Войдите в консоль управления CSS.
    2. В панели навигации слева выберите Clusters > OpenSearch.
    3. В списке кластеров найдите целевой кластер и нажмите Dashboards в столбце Operation, чтобы войти в OpenSearch Dashboards.
    4. В левой панели навигации выберите Dev Tools.

      Левая часть консоли представляет собой поле ввода команд, а треугольный значок в её правом верхнем углу является кнопкой выполнения. Правая часть отображает результат выполнения.

  2. (Необязательно) Создайте целевой индекс в кластере OpenSearch. CDM может автоматически создавать целевые индексы. Однако, чтобы обеспечить оптимальную производительность запросов, рекомендуется заранее определить сопоставления индексов в целевом кластере OpenSearch.

    Например, выполните следующую команду для создания индекса demo:

    PUT /demo
    {
    "settings": {
    "number_of_shards": 1
    },
    "mappings": {
    "properties": {
    "productName": {
    "type": "text",
    "analyzer": "ik_smart"
    },
    "size": {
    "type": "keyword"
    }
    }
    }
    }

    Команда выполнена успешно, если отображается следующая информация.

    {
    "acknowledged" : true,
    "shards_acknowledged" : true,
    "index" : "demo"
    }
  3. Импортируйте данные из Oracle или OBS в кластер OpenSearch с помощью CDM.
    • Если источником данных является база данных Oracle, см. раздел "Migrating Data from Oracle to CSS" в Cloud Data Migration User Guide для руководства по операции.
    • Если источником данных является OBS, см. "Migrating Data from OBS to CSS" в Cloud Data Migration User Guide для руководства по операции.
    Note

    Если источником данных является MySQL, см. "Creating a MySQL Connector" в Cloud Data Migration User Guide, чтобы узнать, как подключиться к базе данных MySQL.

  4. После завершения миграции проверьте целостность данных.
    1. Войдите в кластер OpenSearch через OpenSearch Dashboards и перейдите на страницу Dev Tools.
    2. Выполните следующую команду, чтобы проверить только что импортированные данные:
      GET demo/_count # Check the number of records ingested.
      GET demo/_search # Check the content of the ingested data.

      Если результаты соответствуют источнику, импорт данных выполнен успешно.