Графические ускорители GPU и vGPU
Compute Cloud предоставляет графические ускорители (GPU) и виртуальные графические ускорители (vGPU) в составе графических карт. GPU обрабатывают некоторые типы данных эффективнее, чем vCPU, и могут использоваться для сложных вычислений.
В Compute Cloud доступны следующие графические карты:
- NVIDIA® Tesla® V100 с 32 ГБ памяти HBM2 (High Bandwidth Memory).
- NVIDIA® Ampere® A100 с 80 ГБ памяти HBM2.
- NVIDIA® Tesla® T4 с 16 ГБ памяти GDDR6.
Важно
В отличие от vGPU, GPU работает в режиме TCC, который не использует графические драйверы операционной системы.
По умолчанию в облаке установлена нулевая квота на создание виртуальных машин с GPU и vGPU. Чтобы изменить квоту, обратитесь в техническую поддержку.
Виртуальные машины с GPU и vGPU нельзя создавать в зоне доступности ru-central1-c. Подробнее см. в разделе Вывод из эксплуатации зоны доступности ru-central1-c.
Графические ускорители (GPU)
Графические ускорители подходят для задач машинного обучения (Machine Learning, ML), искусственного интеллекта (Artificial Intelligence, AI) и обработки трехмерной графики (3D Rendering).
Контролировать GPU и RAM можно непосредственно с виртуальной машины.
NVIDIA® Tesla® V100
Графическая карта NVIDIA® Tesla® V100 содержит 5120 ядер CUDA®, позволяющих выполнять высокопроизводительные вычисления (High Performance Computing, HPC), а также 640 ядер Tensor, позволяющих решать задачи глубокого обучения (Deep Learning, DL).
NVIDIA® Ampere® A100
NVIDIA® A100, построенная на базе микроархитектуры Ampere®, использует тензорные ядра третьего поколения и предоставляет 80 ГБ памяти HBM2 с пропускной способностью до 2 ТБ/с.
NVIDIA® Tesla® T4
NVIDIA® Tesla® T4, построенная на базе архитектуры Turing™, использует тензорные ядра Turing и ядра RT, предоставляет 16 ГБ памяти GDDR6 с пропускной способностью 300 ГБ/с.
Конфигурации виртуальных машин
Доступные конфигурации вычислительных ресурсов:
-
Платформа Intel Broadwell with NVIDIA® Tesla® V100 (
gpu-standard-v1):Количество GPU Объем VRAM, ГБ Количество vCPU Объем RAM, ГБ 1 32 8 96 2 64 16 192 4 128 32 384 -
Платформа Intel Cascade Lake with NVIDIA® Tesla® V100 (
gpu-standard-v2):Количество GPU Объем VRAM, ГБ Количество vCPU Объем RAM, ГБ 1 32 8 48 2 64 16 96 4 128 32 192 8 256 64 384 -
Платформа AMD EPYC™ with NVIDIA® Ampere® A100 (
gpu-standard-v3):Количество GPU Объем VRAM, ГБ Количество vCPU Объем RAM, ГБ 1 80 28 119 2 160 56 238 4 320 112 476 8 640 224 952 -
Платформа Intel Ice Lake with NVIDIA® Tesla® T4 (
standard-v3-t4):Количество GPU Объем VRAM, ГБ Количество vCPU Объем RAM, ГБ 1 16 32 128
Виртуальные машины на платформах Intel Broadwell with NVIDIA® Tesla® V100, Intel Cascade Lake with NVIDIA® Tesla® V100, AMD EPYC™ with NVIDIA® Ampere® A100 и Intel Ice Lake with NVIDIA® Tesla® T4 можно создать в зонах доступности ru-central1-a и ru-central1-b.
Ознакомиться с организационными и техническими ограничениями ВМ можно в разделе Квоты и лимиты.
Образы операционных систем
Для виртуальных машин на платформах Intel Broadwell with NVIDIA® Tesla® V100 и Intel Cascade Lake with NVIDIA® Tesla® V100 доступны специальные образы операционных систем Windows — 2016 Datacenter GPU (windows-2016-gvlk-gpu) и Ubuntu — 16.04 LTS GPU (ubuntu-1604-lts-gpu) и 20.04 LTS GPU (ubuntu-2004-lts-gpu), на которых установлены драйверы NVIDIA.
Для виртуальных машин на платформе Intel Ice Lake with NVIDIA® Tesla® T4 доступен образ операционной системы Ubuntu — 20.04 LTS GPU (ubuntu-2004-lts-gpu).
Для виртуальных машин на платформе AMD EPYC™ with NVIDIA® Ampere® A100 доступен специальный образ операционной системы Ubuntu — 20.04 LTS GPU A100 (ubuntu-2004-lts-gpu-a100). Мы рекомендуем использовать стандартный образ от Yandex Cloud. Вы также можете установить драйверы на другой стандартный образ самостоятельно или создать собственный образ с предустановленными драйверами.
Виртуальные графические ускорители (vGPU)
Compute Cloud предоставляет возможность виртуализации графических ускорителей (GPU). Виртуализация машин с GPU основана на технологии NVIDIA® vGPU.
Технология NVIDIA® vGPU позволяет использовать карты с GPU как для решения графических, так и для вычислительных задач на vGPU. Для этого вам понадобятся соответствующие лицензии.
Чтобы воспользоваться технологией vGPU, необходимы:
- ВМ на платформе
vgpu-standard-v1с одним из образов: - Лицензия NVIDIA® RTX vWS для использования технологии NVIDIA® vGPU.
- Сервер лицензий NVIDIA® vGPU Software License Server.
Для работы с лицензией вы можете:
- Использовать свой текущий сервер лицензий.
Текущий сервер лицензий должен быть доступен по сети из ВМ с vGPU. - Создать ВМ с сервером лицензий NVIDIA® vGPU Software License Server в Yandex Cloud.
Как установить и настроить сервер лицензий читайте в документации NVIDIA.
Конфигурации виртуальных машин с vGPU
Для ВМ с vGPU доступна конфигурация на платформе Intel Broadwell with NVIDIA® Tesla® V100 8G (vgpu-standard-v1):
| Количество vGPU | Количество vCPU | Объем RAM, ГБ | Объем GPU RAM, ГБ |
|---|---|---|---|
| 1 | 4 | 12 | 8 |
Сравнение GPU и vGPU
| Параметр | GPU | vGPU |
|---|---|---|
| Возможности применения | Задачи машинного обучения и искусственного интеллекта, обработка трехмерной графики | Игры, 3D моделирование, системы автоматического проектирования |
| Доля ускорителей вычислений Tesla V100 | 100 % | 25 % |
| Режим работы видеокарты | TCC | WDDM |
| CUDA® | ||
| Работа с графикой (поддержка Vulkan, OpenGL и Direct3D) | ||
| Необходим сервер лицензий | ||
| Необходима лицензия | RTX vWS |
Смотрите также
- Создание виртуальной машины с GPU.
- Узнайте, как добавить GPU к существующей ВМ.
- Узнайте, как изменить количество GPU.