Облачная платформаAdvanced

GPU-ускоренные ECS

Эта статья полезна?
Язык статьи: Русский
Показать оригинал
Страница переведена автоматически и может содержать неточности. Рекомендуем сверяться с английской версией.

GPU-ускоренные ECSs обеспечивают выдающиеся возможности вычислений с плавающей точкой. Они подходят для приложений, требующих вычислений в реальном времени, высокой параллельности и масштабных вычислений.

GPU-ускоренные ECSs классифицируются как серии G и серии P ECSs.

  • Серия G: графически ускоренные ECSs, которые подходят для 3D‑рендеринга анимации и CAD
  • Серия P: вычислительно ускоренные или инференс‑ускоренные ECSs, которые подходят для глубокого обучения, научных вычислений и CAE

GPU-ускоренные ECS

Рекомендуется: Computing-accelerated P2s

Полезные ссылки:

Образы, поддерживаемые GPU-ускоренными ECS

Table 1 Образы, поддерживаемые GPU-ускоренными ECS

Тип

Серия

Поддерживаемый образ

Графика с ускорением

G5

  • CentOS 8.2 64bit
  • CentOS 7.6 64bit
  • CentOS 7.5 64bit
  • Ubuntu 22.04 64bit
  • Ubuntu 20.04 64bit
  • Ubuntu 18.04 64bit
  • Windows Server 2019 Standard 64bit
  • Windows Server 2016 Standard 64bit
  • Windows Server 2019 Datacenter 64‑бит
  • Windows Server 2016 Datacenter 64‑бит

Computing-accelerated

P3

  • CentOS 8.2 64‑бит
  • CentOS 8.1 64‑бит
  • CentOS 8.0 64‑бит
  • CentOS 7.9 64‑бит
  • CentOS 7.8 64‑бит
  • CentOS 7.7 64‑бит
  • CentOS 7.6 64‑бит
  • Ubuntu 20.04 server 64‑бит
  • Ubuntu 18.04 server 64‑бит

Computing-accelerated

P2s

  • Windows Server 2016 Standard 64bit

Graphics-accelerated Enhancement G5

Обзор

G5 ECS используют NVIDIA GRID vGPU и обеспечивают всестороннее, профессиональное графическое ускорение. Они используют NVIDIA Tesla V100 GPU и поддерживают DirectX, OpenGL и Vulkan. Эти ECS предоставляют 16 GiB памяти GPU, удовлетворяя требования от начального уровня до профессиональной графической обработки.

Выберите желаемый тип и спецификации GPU-accelerated ECS.

Спецификации

Таблица 2 G5 ECS specifications

Флейвор

vCPUs

Память

(GiB)

Максимальная/Гарантированная пропускная способность сети

(Gbit/s)

Максимальный PPS сети

(10,000)

Максимальное количество очередей NIC

GPU

Память GPU

(GiB)

Виртуализация

g5.8xlarge.4

32

128

25/15

200

16

1 × V100

16

KVM

g5.16xlarge.4

64

256

30/30

400

32

2 × V100

2 × 16

KVM

G5 ECS Features

  • CPU: процессоры Intel® Xeon® Scalable 6278 2‑го поколения (базовая частота 2.6 GHz и частота turbo 3.5 GHz), или процессоры Intel® Xeon® Scalable 6151 (базовая частота 3.0 GHz и частота turbo 3.4 GHz)
  • API ускорения графики
    • DirectX 12, Direct2D и DirectX Video Acceleration (DXVA)
    • OpenGL 4.5
    • Vulkan 1.0
  • CUDA and OpenCL
  • NVIDIA V100 GPUs
  • Графическое ускорение
  • Автоматическое распределение G5 ECS в AZs, где используются NVIDIA V100 GPUs
  • До 16 GiB памяти GPU и разрешения 4096 × 2160 для обработки графики и видео

Поддерживаемое программное обеспечение

G5 ECS используются в сценариях графического ускорения, таких как видеорендеринг, облачный рабочий стол и 3D‑визуализация. Если программное обеспечение полагается на аппаратное ускорение GPU DirectX и OpenGL, используйте G5 ECS. G5 ECS поддерживают следующее часто используемое программное обеспечение для обработки графики:

  • AutoCAD
  • 3ds Max
  • MAYA
  • Agisoft PhotoScan
  • ContextCapture

Примечания

  • После остановки G5 ECS базовые ресурсы (включая vCPUs, память, образ и GPUs) не тарифицируются, но его системный диск тарифицируется в зависимости от ёмкости диска. Если с ECS связаны другие продукты, такие как EVS disks, EIP и bandwidth, эти продукты тарифицируются отдельно.
    Note

    Ресурсы будут освобождены после остановки G5 ECS. Если ресурсов будет недостаточно при следующем запуске, запуск может завершиться неудачей. Если вы планируете использовать такой ECS длительный период, не останавливайте его.

  • Для G5 ECS необходимо настроить GRID license после создания ECS.
  • G5 ECS, созданные с использованием публичного образа, имеют предустановленный GRID driver определённой версии. Однако вам необходимо самостоятельно приобрести и настроить GRID license. Убедитесь, что версия GRID driver соответствует требованиям сервиса.

    Подробности о том, как настроить GRID license, см. Manually Installing a GRID Driver on a GPU-accelerated ECS.

  • Если G5 ECS создан с использованием приватного образа, убедитесь, что GRID driver установлен во время создания приватного образа. Если нет, установите драйвер для графического ускорения после создания ECS.

    Подробности см. Manually Installing a GRID Driver on a GPU-accelerated ECS.

  • В отличие от вычислений общего назначения, GPU-accelerated ECS предоставляют гетерогенные вычисления. Их спецификации могут быть изменены только в пределах того же типа instance.
  • GPU-accelerated ECS не поддерживают live migration.

Вычислительно-ускоренный P3

Обзор

P3 ECS используют NVIDIA A100 GPUs и обеспечивают гибкость и сверхвысокопроизводительные вычисления. P3 ECS обладают преимуществами в AI‑основанном глубоком обучении, научных вычислениях, Computational Fluid Dynamics (CFD), вычислительных финансах, сейсмическом анализе, молекулярном моделировании и геномике. Теоретически FP32 составляет 19.5 TFLOPS, а TF32 tensor core — 156 TFLOPS | 312 TFLOPS (sparsity enabled).

Характеристики

Table 3 Характеристики P3 ECS

Флейвор

vCPUs

Память

(GiB)

Максимальная/Гарантированная пропускная способность сети (Gbit/s)

Максимальная PPS сети

(10,000)

Максимальное количество очередей NIC

Максимальное количество NIC

Максимальное количество дисков EVS

GPU

Память GPU

(GiB)

Виртуализация

Аппаратное обеспечение

p3.2xlarge.8

8

64

10/4

100

4

4

60

1 × NVIDIA A100 80 GB

80

KVM

CPU: Intel® Xeon® Gold 6248R

p3.4xlarge.8

16

128

15/8

200

8

8

60

2 × NVIDIA A100 80 GB

160

KVM

p3.8xlarge.8

32

256

25/15

350

16

8

60

4 × NVIDIA A100 80 GB

320

KVM

p3.16xlarge.8

64

512

36/30

700

32

8

60

8 × NVIDIA A100 80 GB

640

KVM

P3 ECS Features

  • CPU: 2‑е поколение Intel® Xeon® Scalable 6248R processors и 3,0 GHz базовой частоты
  • До восьми NVIDIA A100 GPU в ECS
  • параллельные вычисления NVIDIA CUDA и общие фреймворки глубокого обучения, такие как TensorFlow, Caffe, PyTorch и MXNet
  • 19,5 TFLOPS производительности одинарной точности и 9,7 TFLOPS производительности двойной точности на одном GPU
  • NVIDIA Tensor cores с 156 TFLOPS смешанной точности производительности для глубокого обучения
  • До 40 Gbit/s сетевой пропускной способности на одном ECS
  • 80 GB памяти HBM2 GPU на видеокарте, с пропускной способностью 1 935 Gbit/s
  • Всеобъемлющие базовые возможности
    • Пользовательская сеть с гибким делением подсетей и настройкой политики доступа к сети
    • Массовое хранилище, эластичное расширение и резервное копирование и восстановление
    • Эластичное масштабирование
  • Гибкость

    Как и другие типы ECSs, P3 ECSs можно развернуть за несколько минут.

  • Отличная экосистема супервычислений

    Экосистема супервычислений позволяет создать гибкую, высокопроизводительную, экономичную вычислительную платформу. Большое количество HPC‑приложений и фреймворков глубокого обучения могут работать на P3 ECSs.

Поддерживаемое программное обеспечение

P3 ECSs используются в сценариях ускорения вычислений, таких как обучение глубоким нейронным сетям, инференс, научные вычисления, молекулярное моделирование и сейсмический анализ. Если программному обеспечению требуется поддержка параллельных вычислений GPU CUDA, используйте P3 ECSs. P3 ECSs поддерживают следующее часто используемое программное обеспечение:

  • Распространённые фреймворки глубокого обучения, такие как TensorFlow, Spark, PyTorch, MXNet и Caffe
  • Рендеринг CUDA GPU, поддерживаемый RedShift для Autodesk 3ds Max и V-Ray для 3ds Max
  • Agisoft PhotoScan
  • MapD
  • Более 2 000 GPU-ускоренных приложений, таких как Amber, NAMD и VASP

Примечания

  • После остановки P3 ECS базовые ресурсы (включая vCPU, память, образ и GPU) не тарифицируются, но его системный диск тарифицируется в зависимости от объёма диска. Если с ECS связаны другие продукты, такие как диски EVS, EIP и пропускная способность, эти продукты тарифицируются отдельно.
    Note

    Ресурсы будут освобождены после остановки P3 ECS. Если при следующем запуске ресурсов будет недостаточно, запуск может завершиться неудачей. Если планируете использовать такой ECS длительный период, не останавливайте его.

  • Если P3 ECS создаётся с использованием частного образа, убедитесь, что драйвер Tesla был установлен во время создания образа. Если нет, установите драйвер для ускорения вычислений после создания ECS. Подробности см. Manually Installing a Tesla Driver on a GPU-accelerated ECS.
  • В отличие от вычислений общего назначения, GPU-ускоренные ECS предоставляют гетерогенные вычисления. Их спецификации можно изменять только в рамках того же типа instance.
  • GPU-ускоренные ECS не поддерживают живую миграцию.

Ускоренные вычисления P2s

Обзор

ECS P2s используют графические процессоры NVIDIA Tesla V100 для обеспечения гибкости, высокопроизводительных вычислений и экономичности. ECS P2s предоставляют выдающиеся возможности общих вычислений и обладают преимуществами в таких областях, как глубокое обучение на основе AI, научные вычисления, вычислительная гидродинамика (CFD), финансовые вычисления, сейсмический анализ, молекулярное моделирование и геномика.

Технические характеристики

Table 4 спецификации P2s ECS

Флейвор

vCPUs

Memory

(GiB)

Max./Assured Network Bandwidth (Gbit/s)

Max. Network PPS (10,000)

Max. NIC Queues

Max. NICs

GPUs

GPU Connection

GPU Memory (GiB)

Virtualization

p2s.2xlarge.8

8

64

10/4

50

4

4

1 × V100

PCIe Gen3

1 × 32 GiB

KVM

p2s.4xlarge.8

16

128

15/8

100

8

8

2 × V100

PCIe Gen3

2 × 32 GiB

KVM

p2s.8xlarge.8

32

256

25/15

200

16

8

4 × V100

PCIe Gen3

4 × 32 GiB

KVM

p2s.16xlarge.8

64

512

30/30

400

32

8

8 × V100

PCIe Gen3

8 × 32 GiB

KVM

P2s ECS Features

  • CPU: процессоры Intel® Xeon® Scalable 6278 2‑го поколения (базовая частота 2,6 GHz и частота turbo 3,5 GHz), или процессоры Intel® Xeon® Scalable 6151 (базовая частота 3,0 GHz и частота turbo 3,4 GHz)
  • До восьми NVIDIA Tesla V100 GPU в ECS
  • Параллельные вычисления NVIDIA CUDA и распространённые фреймворки глубокого обучения, такие как TensorFlow, Caffe, PyTorch и MXNet
  • 14 TFLOPS производительности одинарной точности и 7 TFLOPS производительности двойной точности
  • Tensor‑ядра NVIDIA с 112 TFLOPS смешанной точности для глубокого обучения
  • До 30 Gbit/s сетевой пропускной способности в одном ECS
  • 32 GiB памяти HBM2 GPU с пропускной способностью 900 Gbit/s
  • Всеобъемлющие базовые возможности
    • Сеть, определяемая пользователем, с гибким делением подсетей и конфигурацией политики доступа к сети
    • Массовое хранилище, эластичное расширение и резервное копирование и восстановление
    • Эластичное масштабирование
  • Гибкость

    Подобно другим типам ECS, P2s ECS можно развернуть за несколько минут.

  • Отличная экосистема супервычислений

    Экосистема супервычислений позволяет создать гибкую, высокопроизводительную, экономичную вычислительную платформу. Большое количество приложений HPC и фреймворков глубокого обучения могут работать на P2s ECSs.

Поддерживаемое программное обеспечение

P2s ECSs используются в сценариях ускорения вычислений, таких как обучение глубокому обучению, инференс, научные вычисления, молекулярное моделирование и сейсмический анализ. Если программному обеспечению требуется поддержка параллельных вычислений GPU CUDA, используйте P2s ECSs. P2s ECSs поддерживают следующее часто используемое программное обеспечение:

  • Распространённые фреймворки глубокого обучения, такие как TensorFlow, Caffe, PyTorch и MXNet
  • Рендеринг CUDA GPU, поддерживаемый RedShift для Autodesk 3ds Max и V-Ray для 3ds Max
  • Agisoft PhotoScan
  • MapD

Примечания

  • После остановки P2s ECS базовые ресурсы (включая vCPU, память, образ и GPU) не тарифицируются, но его системный диск тарифицируется в зависимости от объёма диска. Если с ECS связаны другие продукты, такие как диски EVS, EIP и пропускная способность, эти продукты тарифицируются отдельно.
    Note

    Ресурсы будут освобождены после остановки P2s ECS. Если при следующем запуске ресурсов будет недостаточно, запуск может завершиться неудачей. Если планируете использовать такой ECS длительный период, не останавливайте его.

  • По умолчанию у P2s ECSs, созданных с использованием публичного образа, установлен драйвер Tesla.
  • Если P2s ECS создаётся с использованием приватного образа, убедитесь, что драйвер Tesla установлен во время создания приватного образа. Если нет, установите драйвер для ускорения вычислений после создания ECS. Подробности см. в Manually Installing a Tesla Driver on a GPU-accelerated ECS.
  • В отличие от вычислений общего назначения, GPU-ускоренные ECSs предоставляют гетерогенные вычисления. Их характеристики можно изменять только в пределах того же типа instance.
  • GPU-ускоренные ECSs не поддерживают живую миграцию.