Облачная платформаAdvanced

Импорт данных OBS в таблицу DLI

Язык статьи: Русский
Показать оригинал
Страница переведена автоматически и может содержать неточности. Рекомендуем сверяться с английской версией.

В этом разделе описывается, как импортировать данные, хранящиеся в OBS, в таблицу в консоли DLI. Данные могут быть импортированы как в таблицы DLI (тип таблицы: MANAGED), так и в таблицы OBS (тип таблицы: EXTERNAL).

Меры предосторожности

  • Во время импорта данных можно указать только один путь. Путь не может содержать запятые (,).
  • Для импорта данных в формате CSV в партиционированную таблицу разместите столбец, по которому будет выполнено партиционирование, в последнем столбце источника данных.
  • Рекомендуется не выполнять одновременный импорт данных в таблицу. При одновременном импорте данных в таблицу может возникнуть конфликт, что приведёт к неудачному импорту данных.
  • Импортируемый файл может быть в формате CSV, Parquet, ORC, JSON или Avro. Формат кодировки должен быть UTF-8.

Предварительные требования

Данные для импорта хранятся в OBS.

Процедура

  1. Вы можете импортировать данные на странице Data Management или на странице SQL Editor.

    • Чтобы импортировать данные на странице Data Management:
      1. В панели навигации слева в консоли выберите Data Management > Databases and Tables.
      2. Нажмите название базы данных, соответствующей таблице, в которую необходимо импортировать данные, чтобы перейти на страницу управления таблицей.
      3. Найдите строку, в которой находится целевая таблица, и выберите More > Import в столбце Operation. Появится диалоговое окно Import.
    • Чтобы импортировать данные на SQL Editor странице:
      1. С левой стороны консоли управления нажмите SQL Editor.
      2. В дереве навигации слева от SQL Editor нажмите Databases, чтобы увидеть все базы данных. Нажмите базу данных, к которой относится целевая таблица. Отображается список таблиц.
      3. Нажмите справа от таблицы и выберите Import в контекстном меню. Отобразится страница Import.

  2. В диалоговом окне Import задайте параметры в соответствии с Table 1.

    Table 1 Описание параметров

    Параметр

    Описание

    Пример

    Databases

    База данных, в которой находится текущая таблица.

    -

    Table Name

    Имя текущей таблицы.

    -

    Queues

    Выберите очередь.

    -

    File Format

    Формат файла источника данных для импорта. Поддерживаются форматы CSV, Parquet, ORC, JSON и Avro. Формат кодировки. Поддерживается только UTF-8.

    CSV

    Path

    Вы можете напрямую ввести путь или нажать и выбрать путь OBS. Если Бакет недоступен, вы можете напрямую перейти в OBS management console и создать OBS Бакет.

    Путь может быть файлом или папкой.

    • При создании таблицы OBS необходимо указать папку в качестве каталога. Если указать файл, импорт данных завершится с ошибкой.
    • Если в каталоге OBS присутствуют и папка, и файл с одинаковым именем, импорт данных, указывающий на этот путь, будет отдавать приоритет файлу над папкой.

    obs://DLI/sampledata.csv

    Table Header: No/Yes

    Этот параметр действителен только когда File Format установлен в CSV. Указывает, содержит ли импортируемый источник данных заголовок таблицы.

    Нажмите Advanced Settings и установите флажок рядом с Table Header: No. Если checkbox выбран, заголовок таблицы отображается. Если checkbox снят, заголовок таблицы не отображается.

    -

    User-defined Delimiter

    Этот параметр действителен только когда File Format установлен в CSV и выбран User-defined Delimiter.

    Поддерживаются следующие разделители:

    • Запятая (,)
    • Вертикальная черта (|)
    • Символ табуляции (\t)
    • Прочие: введите пользовательский разделитель.

    Значение по умолчанию: запятая (,)

    User-defined Quotation Character

    Этот параметр действителен только когда File Format установлен в CSV и User-defined Quotation Character выбран.

    Поддерживаются следующие символы кавычек:

    • Одинарная кавычка (')
    • Двойные кавычки (")
    • Прочие: введите пользовательский символ кавычек.

    Значение по умолчанию: двойные кавычки (")

    User-defined Escape Character

    Этот параметр действителен только когда File Format установлен в CSV и вы выбираете User-defined Escape Character.

    Поддерживаются следующие символы экранирования:

    • Backslash (\)
    • Прочее: Введите пользовательский символ экранирования.

    Значение по умолчанию: backslash (\)

    Date Format

    Этот параметр действителен только когда File Format установлен в CSV или JSON.

    Этот параметр задает формат даты в таблице и действителен только при выборе Advanced Settings. Значение по умолчанию — yyyy-MM-dd. Для определения символов, используемых в шаблоне даты, см. Таблицу 3 в .

    2000-01-01

    Timestamp Format

    Этот параметр действителен только когда File Format установлен в CSV или JSON.

    Этот параметр задает формат метки времени в таблице и действителен только при выборе Advanced Settings. Значение по умолчанию — yyyy-MM-dd HH:mm:ss. Для определения символов, используемых в шаблоне времени, см. Таблицу 3 в .

    2000-01-01 09:00:00

    Error Records Path

    Этот параметр действителен только когда File Format установлен в CSV или JSON.

    Параметр указывает, что данные об ошибках хранятся в соответствующем пути OBS, и действителен только при выборе Advanced Settings.

    obs://DLI/

  3. Нажмите OK.
  4. Вы можете просмотреть импортированные данные любым из следующих способов:

    Note

    В настоящее время отображаются только первые 10 записей.

    • Choose Data Management > Databases and Tables in the navigation pane of the console. Locate the row that contains the database where the target table belongs and click More > View Properties in the Operation column. In the displayed dialog box, click the Preview tab to view the imported data.
    • On the Databases tab of the SQL Editor, click the database name to go to the table list. Click on the right of a table name and choose View Properties from the shortcut menu. In the displayed dialog box, click Preview to view the imported data.

  5. (Опционально) Просмотрите статус и результат выполнения задачи импорта на странице Job Management > SQL Jobs.