Пример переноса данных из хранилища S3 на NFS в конкретном регионе
Для переноса данных из внешнего хранилища S3 в конкретный регион:
На примере рассмотрим каждый шаг подробнее.
Шаг 1. Создать коннектор для подключения к внешнему хранилищу
Для создания коннектора выполните команду:
mls connector create --connector-type s3customВведите параметры подключения к внешнему S3 бакету:
Endpoint: http://some-local-test-mlspace-endpoint-s3S3 Bucket: s3-bucket-testS3 Access Key: *************S3 Secret Key: *************Имя коннектора: cli_conn_s3_custom
После ввода указанных параметров, команда будет выполнена. В результате будет выведено сообщение с конфигурацией созданного коннектора.
Убедитесь в том, что status коннектора имеет значение active.
Запишите значение connector_id, оно понадобится при создании правила переноса.
Шаг 2. Получить коннектор к NFS региона назначения
Коннектор к NFS не нужно создавать отдельно, так как он является системным и создается на этапе конфигурации пользовательского окружения (workspace).
Для поиска нужного коннектора выполните команду:
mls connector list
Для вывода в формате JSON выполните команду:
mls connector list -O json
Название коннектора NFS совпадает с названием пользовательского окружения (workspace).
Тип — nfs или nfsprivate зависит от того, какой раздел NFS выбран для переноса данных — совместный или индивидуальный.
В результате выполнения команды будет выведен список коннекторов в формате таблицы.
Шаг 3. Создать правило переноса
На предыдущих шагах мы подготовили коннектор к источнику данных на внешнем S3 хранилище и получили информацию о коннекторе к NFS хранилищу. Теперь у нас все готово для создания правила переноса данных из S3 в NFS.
Для создания переноса данных выполните команду:
mls transfer create --name s3->nfs --connector-id 89964fba-b1ca-4e18-ac9f-66251a32b148 --dst-connector-id ca802682-a659-4162-820e-6a09529c2cdd --connector-type s3custom --dst-connector-type nfs --cluster-name christofari-1 --strategy write_all --source dc-source --destination dc-destination-cli --description somedescription
Где:
--connector-id — ID коннектора к S3 хранилищу;
--connector-type — тип коннектора источника данных (в нашем примере s3custom);
--dst-connector-id — ID коннектора к NFS хранилищу;
--dst-connector-type — тип коннектора назначения (в нашем примере NFS);
--source — объект, который требуется перенести;
–-destination — директория для переноса данных.
Параметр --cluster-name необходим для определения маршрута и региона назначения переноса. В примере ниже christofari-1 соответствует Christofari.V100.
Шаг 4. Дождаться завершения выполнения запущенного переноса
Для проверки статуса выполнения переноса выполните команду:
mls transfer history --transfer-id 379f6cf3-e7bc-4482-acb8-2840a1a3b26b --output json
Где:
--transfer-id — ID правила переноса, созданного на предыдущем шаге.
После выполнения этой команды будет выведено сообщение в формате JSON со статусом всех запущенных переносов из созданного правила.
- Шаг 1. Создать коннектор для подключения к внешнему хранилищу
- Шаг 2. Получить коннектор к NFS региона назначения
- Шаг 3. Создать правило переноса
- Шаг 4. Дождаться завершения выполнения запущенного переноса