Графические ускорители GPU необходимы для обработки больших объемов данных, особенно требующих вычислений с плавающей запятой. Такие мощности — подходящий инструмент для ресурсоемких AI и ML-приложений. Например, для обучения и инференса нейронных сетей и языковых моделей, анализа данных. GPU также нужны для работы с качественной графикой, 3D-моделированием, рендерингом или видео.
Виртуальные машины
Идеальный вариант для начальных стадий разработки и тестирования благодаря простой гибкой настройке.
Виртуальные машины с GPU позволяют быстро развернуть инфраструктуру с нужными ресурсами и масштабироваться по мере необходимости.
ML-сервис
Подходящий вариант для ускорения разработки и обучения моделей. Вычисления происходят на мощных одиночных или кластерных узлах с поддержкой Infiniband, чтобы обеспечить высокую пропускную способность с минимальными задержками.
ML-сервис с GPU позволяет масштабировать ресурсы и автоматизировать процессы обучения и инференса сложных моделей.
Выделенный сервер
Оптимальный вариант для задач, которые требуют непрерывной работы GPU, или работы с интенсивными вычислительными задачами.
Выделенные серверы с GPU обеспечивают максимальную производительность с полным контролем над аппаратными ресурсами.
Преимущества использования GPU
Ускоренное выполнение задач
GPU значительно ускоряют вычисления с плавающей запятой, сокращают время обучения и вывода модели
Эффективное использование ресурсов
Графические ускорители обрабатывают параллельные задачи, максимизируют использование ресурсов, снижают стоимость вычислений
Повышенная производительность
Мощности с GPU обеспечивают высокую производительность AI- и ML-приложений, что позволяет быстрее получать результаты
Основные сценарии использования
Сократить время с нескольких недель до нескольких часов на разработку, тестирование и внедрение нейронных сетей для компьютерного зрения, обработки естественного языка или рекомендательных систем
Графические ускорители
| Модель | vRAM | Пропускная способность памяти | Доступные конфигурации | FP32 TFLOPS | FP16 TFLOPS | Поддержка NVLink |
| H100 | 80 ГБ HBM2e/HBM3 | 3.35 ТБ/с | 1,2,4,8x | 67 | ~1000 | Да |
| A100 | 40/80 ГБ HBM2e | 1.55 ТБ/c (40 ГБ vRAM) или 2 ТБ/с (80 ГБ vRAM) | 1,2,4,8x | 19.5 | 312 | Да |
| V100 | 16/32 ГБ HBM2 | 900 ГБ/с | 1,2,4,8,16x | 16.4 | 125 | Да |
| A40 | 48 ГБ GDDR6 | 700 ГБ/с | 1,2x | 17.4 | 304 | Да |
Наличие видеокарт уточняйте у менеджера через заявку на консультацию
Эффективность использования GPU в облаке
Низкие стартовые затраты
Преимущество: аренда виртуальных машин по мере необходимости исключает большие начальные инвестиции в аппаратное обеспечение.
Экономия: оплата только за используемые ресурсы сокращает расходы.
Ускорение научных и инженерных разработок
Преимущество: облачные ресурсы быстро масштабируют вычислительные мощности для сложных задач.
Экономия: время на исследования сокращается, команды R&D быстрее переходят от экспериментов к внедрению.
Высокая производительность
Преимущество: полный доступ к мощным аппаратным ресурсам обеспечивает высокую производительность.
Экономия: скорость выполнения задач сокращает время на разработку и вывод продукта на рынок.
Гибкость в изменении конфигураций
Преимущество: возможность быстро менять конфигурации виртуальных машин под текущие задачи.
Экономия: регулирование ресурсов в зависимости от нагрузок оптимизирует затраты.
Снижение затрат на рабочую силу
Преимущество: ML-сервисы автоматизируют рутинные задачи из MLOps цикла.
Экономия: рабочее время сотрудников распределяется на более важные и сложные задачи.
Сокращение переменных затрат
Преимущество: удобное планирование бюджета с фиксированными затратами на выделенные серверы.
Экономия: долгосрочная аренда снижает переменные затраты.
Оптимально для краткосрочных задач
Преимущество: подходит для краткосрочных проектов или временных нужд.
Экономия: нет необходимости в долгосрочной аренде или покупке дорогостоящего оборудования.
Проверка гипотез
Преимущество: доступ к нужной конфигурации ресурсов ускоряет тестирование новых идей и гипотез.
Экономия: существенное сокращение времени и затрат на развертку тестовой среды и экспериментальные вычисления.
Полный контроль над конфигурацией
Преимущество: возможность настроить сервер для специфических задач.
Экономия: эффективное использование ресурсов, снижение затрат на администрирование и обслуживание благодаря настройке под конкретные нужды.
Тарифы аренды вычислительных мощностей с GPU
| Возможности | Выделенный сервер | Виртуальная машина | ML-сервис |
| Гибкость конфигурации | Средняя | Высокая | Средняя |
| Контроль над ресурсами | Полный | Частичный | Частичный |
| Обучение на нескольких GPU | Да | Да | Да |
| Распределенное обучение (Multi-node) | Нет | Нет | Да |
| Поддержка сетевых подключений Infiniband | В зависимости от конфигурации | Нет | Да |
| Поддержка NVLink | В зависимости от конфигурации | Нет | В зависимости от конфигурации |
| Предустановленное ML-окружение | Нет | Нет | Да |
| Тарификация | Месяц | Час | Месяц/Минута |
| Круглосуточная поддержка | Да | Да | Да |
| Модель оплаты | Allocated | Pay-as-you-go | Allocated / Pay-as-you-go |
| Цена (с НДС) | От 5 355 000 руб. в месяц HGX (8xH100 80GB) | V100 от 240 руб за час | V100 от 2,5 руб за минуту A100 от 4,5 руб за минуту H100 от 9,5 руб за минуту |
Дополнительные возможности
FAQ
Как подключить сервер с GPU?
Чтобы заказать вычислительные мощности, оставьте заявку в форме. Персональный менеджер свяжется с вами, ответит на все вопросы, рассчитает стоимость и подготовит коммерческое предложение.
Как выбрать подходящий GPU?
Для выбора подходящей конфигурации GPU важно учитывать характер задачи.
Если требуется параллельная обработка больших объемов данных или тренировка больших языковых моделей, рассмотрите H100 или A100 — они поддерживают NVLink и конфигурации с несколькими картами (два и более GPU).
Для менее требовательных задач подойдут V100 или A40, обеспечивающие отличную производительность для средних вычислительных нагрузок.
Также стоит учитывать потребности в оперативной памяти, дисковом пространстве и при необходимости обращаться к нашей технической поддержке.
Где находятся дата-центры Cloud.ru?
Cloud.ru пользуется надежными современными дата-центрами, расположенными в России. Все ЦОД прошли сертификацию на соответствие международным нормам и требованиям по надежности и безопасности, отвечают требованиям стандарта Tier III. Все облачные платформы Cloud.ru имеют уровень защиты 152-ФЗ УЗ-1.
Какие фреймворки и библиотеки машинного обучения поддерживаются?
Наши серверы оптимизированы для работы с популярными фреймворками и библиотеками, например, TensorFlow, PyTorch, CUDA, используемыми в задачах искусственного интеллекта и машинного обучения.
Кто может помочь, если появятся вопросы?
Наша служба поддержки доступна круглосуточно. Она поможет с любыми вопросами или проблемами, которые могут возникнуть при использовании серверов с GPU.
Обратиться в поддержку можно любым из удобных способов:
написать в чат в личном кабинете;
позвонить по телефону 8 800 444-24-99 (звонок из России бесплатный);
отправить письмо на support@cloud.ru.
Способы обращения в поддержку и рекомендации по составлению заявки
Какие операционные системы поддерживаются?
Наши серверы с GPU поддерживают различные операционные системы, включая Linux (Ubuntu, CentOS, Debian). Операционную систему можно выбрать при создании виртуальной машины.
Какой SLA для серверов с GPU?
SLA для серверов с GPU зависит от выбранного типа мощностей и начинается от 99.95%.
