Облачная платформаAdvanced

GPU-ускоренные ECSs

Язык статьи: Русский
Показать оригинал
Страница переведена автоматически и может содержать неточности. Рекомендуем сверяться с английской версией.

GPU-ускоренные ECSs предоставляют выдающиеся возможности вычислений с плавающей точкой. Они подходят для приложений, требующих реального времени, высокой параллельности и массовых вычислений.

GPU-ускоренные ECSs классифицируются как серии G и серии P ECSs.

  • Серия G: графически ускоренные ECSs, которые подходят для 3D-рендеринга анимации и CAD
  • Серия P: вычислительно ускоренные или инференс-ускоренные ECSs, которые подходят для глубокого обучения, научных вычислений и CAE

GPU-ускоренные ECSs

Рекомендуется: Computing-accelerated P2s

Полезные ссылки:

Образы, поддерживаемые GPU-accelerated ECS

Table 1 Образы, поддерживаемые GPU-accelerated ECS

Тип

Серия

Поддерживаемый образ

Графика с ускорением

G5

  • CentOS 8.2 64bit
  • CentOS 7.6 64bit
  • CentOS 7.5 64bit
  • Ubuntu 22.04 64bit
  • Ubuntu 20.04 64bit
  • Ubuntu 18.04 64bit
  • Windows Server 2019 Standard 64bit
  • Windows Server 2016 Standard 64bit
  • Windows Server 2019 Datacenter 64bit
  • Windows Server 2016 Datacenter 64bit

Computing-accelerated

P3

  • CentOS 8.2 64bit
  • CentOS 8.1 64bit
  • CentOS 8.0 64bit
  • CentOS 7.9 64bit
  • CentOS 7.8 64bit
  • CentOS 7.7 64bit
  • CentOS 7.6 64bit
  • Ubuntu 20.04 server 64bit
  • Ubuntu 18.04 server 64bit

Computing-accelerated

P2s

  • Windows Server 2016 Standard 64bit

Graphics-accelerated Enhancement G5

Обзор

G5 ECS используют NVIDIA GRID vGPU и обеспечивают всестороннее профессиональное графическое ускорение. Они используют NVIDIA Tesla V100 GPU и поддерживают DirectX, OpenGL и Vulkan. Эти ECS предоставляют 16 GiB памяти GPU, удовлетворяя требования от начального уровня до профессиональной графической обработки.

Выберите желаемый тип ECS с GPU‑ускорением и его характеристики.

Технические характеристики

Table 2 спецификации G5 ECS

Флейвор

vCPUs

Память

(GiB)

Максимальная/Гарантированная пропускная способность сети

(Gbit/s)

Максимальное количество PPS сети

(10,000)

Максимальное количество очередей NIC

GPUs

GPU Memory

(GiB)

Виртуализация

g5.8xlarge.4

32

128

25/15

200

16

1 × V100

16

KVM

g5.16xlarge.4

64

256

30/30

400

32

2 × V100

2 × 16

KVM

G5 ECS Features

  • CPU: процессоры Intel® Xeon® Scalable 6278 2‑го поколения (2.6 GHz базовой частоты и 3.5 GHz частоты turbo), или процессоры Intel® Xeon® Scalable 6151 (3.0 GHz базовой частоты и 3.4 GHz частоты turbo)
  • API графического ускорения
    • DirectX 12, Direct2D, and DirectX Video Acceleration (DXVA)
    • OpenGL 4.5
    • Vulkan 1.0
  • CUDA and OpenCL
  • NVIDIA V100 GPUs
  • Графическое ускорение
  • Автоматическое распределение G5 ECSs по AZs, где используются NVIDIA V100 GPUs
  • До 16 GiB памяти GPU и разрешение 4096 × 2160 для обработки графики и видео

Поддерживаемое программное обеспечение

G5 ECSs используются в сценариях графического ускорения, таких как видеорендеринг, облачный рабочий стол и 3D‑визуализация. Если программное обеспечение полагается на аппаратное ускорение GPU DirectX и OpenGL, используйте G5 ECSs. G5 ECSs поддерживают следующее часто используемое программное обеспечение для обработки графики:

  • AutoCAD
  • 3ds Max
  • MAYA
  • Agisoft PhotoScan
  • ContextCapture

Примечания

  • После остановки G5 ECS базовые ресурсы (включая vCPUs, память, образ и GPUs) не тарифицируются, но его системный диск тарифицируется в зависимости от объёма диска. Если с ECS связаны другие продукты, такие как EVS disks, EIP и пропускная способность, эти продукты тарифицируются отдельно.
    Note

    Ресурсы будут освобождены после остановки G5 ECS. Если ресурсов будет недостаточно при следующем запуске, запуск может завершиться неудачей. Если вы планируете использовать такой ECS длительный период, не останавливайте его.

  • Для G5 ECS необходимо настроить GRID license после создания ECS.
  • G5 ECS, созданные с использованием публичного образа, по умолчанию имеют установленный GRID driver определённой версии. Однако вам необходимо самостоятельно приобрести и настроить GRID license. Убедитесь, что версия GRID driver соответствует требованиям сервиса.

    Подробности о том, как настроить GRID license, см. Manually Installing a GRID Driver on a GPU-accelerated ECS.

  • Если G5 ECS создан с использованием приватного образа, убедитесь, что GRID driver был установлен во время создания приватного образа. Если нет, установите драйвер для графического ускорения после создания ECS.

    Подробности см. Manually Installing a GRID Driver on a GPU-accelerated ECS.

  • В отличие от вычислений общего назначения, GPU-ускоренные ECS предоставляют гетерогенные вычисления. Их характеристики могут быть изменены только в пределах того же типа instance type.
  • GPU-ускоренные ECS не поддерживают live migration.

Computing-accelerated P3

Обзор

P3 ECS используют графические процессоры NVIDIA A100 и обеспечивают гибкость и ультра-высокопроизводительные вычисления. P3 ECS обладают преимуществами в области AI-ориентированного глубокого обучения, научных вычислений, вычислительной гидродинамики (CFD), вычислительных финансов, сейсмического анализа, молекулярного моделирования и геномики. Теоретически FP32 составляет 19.5 TFLOPS, а тензорный ядро TF32 — 156 TFLOPS | 312 TFLOPS (при включённой разреженности).

Технические характеристики

Table 3 Технические характеристики P3 ECS

Флейвор

vCPUs

Память

(GiB)

Макс./Гарантированная пропускная способность сети (Gbit/s)

Макс. PPS сети

(10,000)

Макс. очередей NIC

Макс. NIC

GPUs

GPU Memory

(GiB)

Виртуализация

p3.2xlarge.8

8

64

10/4

100

4

4

1 × NVIDIA A100 80 GB

80

KVM

p3.4xlarge.8

16

128

15/8

200

8

8

2 × NVIDIA A100 80 GB

160

KVM

p3.8xlarge.8

32

256

25/15

350

16

8

4 × NVIDIA A100 80 GB

320

KVM

p3.16xlarge.8

64

512

36/30

700

32

8

8 × NVIDIA A100 80 GB

640

KVM

P3 ECS Features

  • CPU: процессоры 2‑го поколения Intel® Xeon® Scalable 6248R и базовая частота 3,0 ГГц
  • До восьми графических процессоров NVIDIA A100 в ECS
  • параллельные вычисления NVIDIA CUDA и распространённые фреймворки глубокого обучения, такие как TensorFlow, Caffe, PyTorch и MXNet
  • 19,5 TFLOPS производительности одинарной точности и 9,7 TFLOPS производительности двойной точности на одном GPU
  • Тензорные ядра NVIDIA с 156 TFLOPS смешанной точности для глубокого обучения
  • До 40 Gbit/s сетевой пропускной способности на одном ECS
  • 80 GB памяти HBM2 GPU на видеокарте, пропускная способность 1 935 Gbit/s
  • Всеобъемлющие базовые возможности
    • Сеть, определяемая пользователем, с гибким делением подсетей и конфигурацией политики доступа к сети
    • Массовое хранилище, эластичное расширение и бэкап и восстановление
    • Эластичное масштабирование
  • Гибкость

    Как и другие типы ECS, P3 ECSs можно развернуть за несколько минут.

  • Отличная экосистема супервычислений

    Экосистема супервычислений позволяет создать гибкую, высокопроизводительную, экономичную вычислительную платформу. Большое количество HPC‑приложений и фреймворков глубокого обучения могут работать на P3 ECSs.

Поддерживаемое программное обеспечение

P3 ECS используются в сценариях ускорения вычислений, таких как обучение глубокому обучению, инференс, научные вычисления, молекулярное моделирование и сейсмический анализ. Если требуется поддержка параллельных вычислений GPU CUDA, используйте P3 ECS. P3 ECS поддерживают следующее часто используемое программное обеспечение:

  • Распространённые фреймворки глубокого обучения, такие как TensorFlow, Spark, PyTorch, MXNet и Caffe
  • Рендеринг CUDA GPU, поддерживаемый RedShift для Autodesk 3ds Max и V-Ray для 3ds Max
  • Agisoft PhotoScan
  • MapD
  • Более 2 000 приложений с ускорением GPU, таких как Amber, NAMD и VASP

Примечания

  • После остановки P3 ECS базовые ресурсы (включая vCPU, память, образ и GPU) не тарифицируются, но его системный диск тарифицируется в зависимости от объёма диска. Если с ECS связаны другие продукты, такие как диски EVS, EIP и пропускная способность, эти продукты тарифицируются отдельно.
    Note

    Ресурсы будут освобождены после остановки P3 ECS. Если при следующем запуске ресурсов будет недостаточно, запуск может завершиться неудачей. Если планируете использовать такой ECS длительный период, не останавливайте его.

  • Если P3 ECS создаётся с использованием частного образа, убедитесь, что драйвер Tesla был установлен во время создания частного образа. Если нет, установите драйвер для ускорения вычислений после создания ECS. Подробности см. Manually Installing a Tesla Driver on a GPU-accelerated ECS.
  • В отличие от вычислений общего назначения, GPU-ускоренные ECS предоставляют гетерогенные вычисления. Их характеристики можно изменять только в пределах того же instance type.
  • GPU-ускоренные ECS не поддерживают живую миграцию.

Вычислительно-ускоренные P2s

Обзор

ECS P2s используют графические процессоры NVIDIA Tesla V100 для обеспечения гибкости, высокопроизводительных вычислений и экономичности. ECS P2s предоставляют выдающиеся возможности общих вычислений и обладают преимуществами в таких областях, как глубокое обучение на основе ИИ, научные вычисления, вычислительная гидродинамика (CFD), вычислительные финансы, сейсмический анализ, молекулярное моделирование и геномика.

Характеристики

Table 4 характеристики P2s ECS

Флейвор

vCPUs

Память

(GiB)

Максимальная/гарантированная пропускная способность сети (Gbit/s)

Максимальное количество PPS сети (10,000)

Максимальное количество очередей NIC

Максимальное количество NIC

GPUs

Подключение GPU

Память GPU (GiB)

Виртуализация

p2s.2xlarge.8

8

64

10/4

50

4

4

1 × V100

PCIe Gen3

1 × 32 GiB

KVM

p2s.4xlarge.8

16

128

15/8

100

8

8

2 × V100

PCIe Gen3

2 × 32 GiB

KVM

p2s.8xlarge.8

32

256

25/15

200

16

8

4 × V100

PCIe Gen3

4 × 32 GiB

KVM

p2s.16xlarge.8

64

512

30/30

400

32

8

8 × V100

PCIe Gen3

8 × 32 GiB

KVM

P2s ECS Features

  • CPU: процессоры Intel® Xeon® Scalable 6278 2‑го поколения (базовая частота 2,6 GHz и частота turbo 3,5 GHz), или процессоры Intel® Xeon® Scalable 6151 2‑го поколения (базовая частота 3,0 GHz и частота turbo 3,4 GHz)
  • До восьми NVIDIA Tesla V100 GPU на ECS
  • NVIDIA CUDA параллельные вычисления и распространённые фреймворки глубокого обучения, такие как TensorFlow, Caffe, PyTorch и MXNet
  • 14 TFLOPS производительности одинарной точности и 7 TFLOPS производительности двойной точности
  • NVIDIA Tensor cores с 112 TFLOPS смешанной точности для глубокого обучения
  • До 30 Gbit/s сетевой пропускной способности на одном ECS
  • 32 GiB памяти HBM2 GPU с пропускной способностью 900 Gbit/s
  • Полный набор базовых возможностей
    • Пользовательская сеть с гибким делением подсетей и конфигурацией политики доступа к сети
    • Массовое хранилище, эластичное расширение, бэкап и восстановление
    • Эластичное масштабирование
  • Гибкость

    Как и другие типы ECS, P2s ECS можно развернуть за несколько минут.

  • Отличная экосистема супервычислений

    Экосистема супервычислений позволяет создать гибкую, высокопроизводительную, экономичную вычислительную платформу. Большое количество HPC‑приложений и фреймворков глубокого обучения могут работать на P2s ECS.

Поддерживаемое программное обеспечение

P2s ECSs используются в сценариях ускорения вычислений, таких как обучение глубоким нейронным сетям, инференс, научные вычисления, молекулярное моделирование и сейсмический анализ. Если программному обеспечению требуется поддержка параллельных вычислений GPU CUDA, используйте P2s ECSs. P2s ECSs поддерживают следующее часто используемое программное обеспечение:

  • Распространённые фреймворки глубокого обучения, такие как TensorFlow, Caffe, PyTorch и MXNet
  • Рендеринг CUDA GPU, поддерживаемый RedShift для Autodesk 3ds Max и V-Ray для 3ds Max
  • Agisoft PhotoScan
  • MapD

Примечания

  • После остановки P2s ECS базовые ресурсы (включая vCPU, память, образ и GPU) не тарифицируются, но его системный диск тарифицируется в зависимости от объёма диска. Если с ECS связаны другие продукты, такие как диски EVS, EIP и пропускная способность, эти продукты тарифицируются отдельно.
    Note

    Ресурсы будут освобождены после остановки P2s ECS. Если при следующем запуске ресурсов будет недостаточно, запуск может завершиться неудачей. Если планируете использовать такой ECS длительный период, не останавливайте его.

  • По умолчанию у P2s ECS, созданных с использованием публичного образа, установлен драйвер Tesla.
  • Если P2s ECS создаётся с использованием приватного образа, убедитесь, что драйвер Tesla был установлен во время создания приватного образа. Если нет, установите драйвер для ускорения вычислений после создания ECS. Подробности см. в Manually Installing a Tesla Driver on a GPU-accelerated ECS.
  • В отличие от вычислений общего назначения, GPU-ускоренные ECS предоставляют гетерогенные вычисления. Их характеристики можно изменять только в пределах того же типа instance.
  • GPU-ускоренные ECS не поддерживают живую миграцию.