Графические ускорители GPU и vGPU
Compute Cloud предоставляет графические ускорители (GPU) и виртуальные графические ускорители (vGPU) в составе графических карт. GPU обрабатывают некоторые типы данных эффективнее, чем vCPU, и могут использоваться для сложных вычислений.
В Compute Cloud доступны следующие графические карты:
- NVIDIA® Tesla® V100 с 32 ГБ памяти HBM2 (High Bandwidth Memory).
- NVIDIA® Ampere® A100 с 80 ГБ памяти HBM2.
Важно
В отличие от vGPU, GPU работает в режиме TCC, который не использует графические драйверы операционной системы.
По умолчанию в облаке установлена нулевая квота на создание виртуальных машин с GPU и vGPU. Чтобы изменить квоту, обратитесь в техническую поддержку.
Графические ускорители (GPU)
Графические ускорители подходят для задач машинного обучения (Machine Learning, ML), искусственного интеллекта (Artificial Intelligence, AI) и обработки трехмерной графики (3D Rendering).
Контролировать GPU и RAM можно непосредственно с виртуальной машины.
NVIDIA® Tesla® V100
Графическая карта NVIDIA® Tesla® V100 содержит 5120 ядер CUDA®, позволяющих выполнять высокопроизводительные вычисления (High Performance Computing, HPC), а также 640 ядер Tensor, позволяющих решать задачи глубокого обучения (Deep Learning, DL).
NVIDIA® Ampere® A100
NVIDIA® A100, построенная на базе микроархитектуры Ampere®, использует тензорные ядра третьего поколения и предоставляет 80 ГБ памяти HBM2 с пропускной способностью до 2 ТБ/с.
Конфигурации виртуальных машин
Доступные конфигурации вычислительных ресурсов:
-
Платформа Intel Broadwell with NVIDIA® Tesla® V100 (
gpu-standard-v1):Количество GPU Объем VRAM, ГБ Количество vCPU Объем RAM, ГБ 1 32 8 96 2 64 16 192 4 128 32 384 -
Платформа Intel Cascade Lake with NVIDIA® Tesla® V100 (
gpu-standard-v2):Количество GPU Объем VRAM, ГБ Количество vCPU Объем RAM, ГБ 1 32 8 48 2 64 16 96 4 128 32 192 8 256 64 384 -
Платформа AMD EPYC™ with NVIDIA® Ampere® A100 (
gpu-standard-v3):Количество GPU Объем VRAM, ГБ Количество vCPU Объем RAM, ГБ 1 80 28 119 8 640 224 952
Виртуальные машины на платформах Intel Broadwell with NVIDIA® Tesla® V100 и Intel Cascade Lake with NVIDIA® Tesla® V100 можно создать в зонах доступности ru-central1-a и ru-central1-b.
Виртуальные машины на платформе AMD EPYC™ with NVIDIA® Ampere® A100 можно создать только в зоне доступности ru-central1-a.
Ознакомиться с организационными и техническими ограничениями ВМ можно в разделе Квоты и лимиты.
Образы операционных систем
Для виртуальных машин на платформах Intel Broadwell with NVIDIA® Tesla® V100 и Intel Cascade Lake with NVIDIA® Tesla® V100 доступны специальные образы операционных систем Windows — 2016 Datacenter GPU (windows-2016-gvlk-gpu) и Ubuntu — 16.04 lts GPU (ubuntu-1604-lts-gpu), на которых установлены драйверы NVIDIA.
Существующие образы не подходят для платформы AMD EPYC™ with NVIDIA® Ampere® A100. Установите драйверы на другой стандартный образ самостоятельно или создайте собственный образ с предустановленными драйверами. Мы рекомендуем перейти на использование стандартного образа от Yandex.Cloud как только он станет доступен в Marketplace.
Виртуальные графические ускорители (vGPU)
Compute Cloud предоставляет возможность виртуализации графических ускорителей (GPU). Виртуализация машин с GPU основана на технологии NVIDIA® vGPU.
Технология NVIDIA® vGPU позволяет использовать карты с GPU как для решения графических, так и для вычислительных задач на vGPU. Для этого вам понадобятся соответствующие лицензии.
Чтобы воспользоваться технологией vGPU, необходимы:
- ВМ на платформе
vgpu-standard-v1с одним из образов: - Лицензия для использования технологии NVIDIA® vGPU.
- Сервер лицензий NVIDIA® vGPU Software License Server.
Для работы с лицензией вы можете:
- Использовать свой текущий сервер лицензий.
Текущий сервер лицензий должен быть доступен по сети из ВМ с vGPU. - Создать ВМ с сервером лицензий NVIDIA® vGPU Software License Server в Yandex.Cloud.
Как установить и настроить сервер лицензий читайте в документации NVIDIA.
Конфигурации виртуальных машин с vGPU
Для ВМ с vGPU доступна конфигурация на платформе Intel Broadwell with NVIDIA® Tesla® V100 8G (vgpu-standard-v1):
| Количество vGPU | Количество vCPU | Объем RAM, ГБ | Объем GPU RAM, ГБ |
|---|---|---|---|
| 1 | 4 | 12 | 8 |
Сравнение GPU и vGPU
| Параметр | GPU | vGPU |
|---|---|---|
| Возможности применения | Задачи машинного обучения и искусственного интеллекта, обработка трехмерной графики | Игры, 3D моделирование, системы автоматического проектирования |
| Доля ускорителей вычислений Tesla V100 | 100 % | 25 % |
| Режим работы видеокарты | TCC | WDDM |
| CUDA® | ||
| Работа с графикой (поддержка Vulkan, OpenGL и Direct3D) | ||
| Необходим сервер лицензий |
Смотрите также
- Создание виртуальной машины с GPU.
- Узнайте, как добавить GPU к существующей ВМ.
- Узнайте, как изменить количество GPU.