nav-img
Evolution

Пример переноса данных из хранилища S3 на NFS в конкретном регионе

Для переноса данных из внешнего хранилища S3 в конкретный регион:

На примере рассмотрим каждый шаг подробнее.

Шаг 1. Создать коннектор для подключения к внешнему хранилищу

  1. Для создания коннектора выполните команду:

    mls connector create --connector-type s3custom
  2. Введите параметры подключения к внешнему S3 бакету:

    Endpoint: http://some-local-test-mlspace-endpoint-s3
    S3 Bucket: s3-bucket-test
    S3 Access Key: *************
    S3 Secret Key: *************
    Имя коннектора: cli_conn_s3_custom

После ввода указанных параметров, команда будет выполнена. В результате будет выведено сообщение с конфигурацией созданного коннектора.

  1. Убедитесь в том, что status коннектора имеет значение active.

  2. Запишите значение connector_id, оно понадобится при создании правила переноса.

Шаг 2. Получить коннектор к NFS региона назначения

Коннектор к NFS не нужно создавать отдельно, так как он является системным и создается на этапе конфигурации пользовательского окружения (workspace).

Для поиска нужного коннектора выполните команду:

mls connector list

Для вывода в формате JSON выполните команду:

mls connector list -O json

Название коннектора NFS совпадает с названием пользовательского окружения (workspace).

Тип — nfs или nfsprivate зависит от того, какой раздел NFS выбран для переноса данных — совместный или индивидуальный.

В результате выполнения команды будет выведен список коннекторов в формате таблицы.

Шаг 3. Создать правило переноса

На предыдущих шагах мы подготовили коннектор к источнику данных на внешнем S3 хранилище и получили информацию о коннекторе к NFS хранилищу. Теперь у нас все готово для создания правила переноса данных из S3 в NFS.

Для создания переноса данных выполните команду:

mls transfer create --name s3->nfs --connector-id 89964fba-b1ca-4e18-ac9f-66251a32b148  --dst-connector-id ca802682-a659-4162-820e-6a09529c2cdd --connector-type s3custom --dst-connector-type nfs --cluster-name christofari-1 --strategy write_all --source dc-source --destination dc-destination-cli --description somedescription

Где:

  • --connector-id — ID коннектора к S3 хранилищу;

  • --connector-type — тип коннектора источника данных (в нашем примере s3custom);

  • --dst-connector-id — ID коннектора к NFS хранилищу;

  • --dst-connector-type — тип коннектора назначения (в нашем примере NFS);

  • --source — объект, который требуется перенести;

  • –-destination — директория для переноса данных.

Параметр --cluster-name необходим для определения маршрута и региона назначения переноса. В примере ниже christofari-1 соответствует Christofari.V100.

Шаг 4. Дождаться завершения выполнения запущенного переноса

Для проверки статуса выполнения переноса выполните команду:

mls transfer history --transfer-id 379f6cf3-e7bc-4482-acb8-2840a1a3b26b --output json

Где:

  • --transfer-id — ID правила переноса, созданного на предыдущем шаге.

После выполнения этой команды будет выведено сообщение в формате JSON со статусом всех запущенных переносов из созданного правила.