Графические ускорители GPU и vGPU
Compute Cloud предоставляет графические ускорители (GPU) и виртуальные графические ускорители (vGPU) в составе графических карт. GPU обрабатывают некоторые типы данных эффективнее, чем vCPU, и могут использоваться для сложных вычислений.
В Compute Cloud доступны графические карты NVIDIA® Tesla® V100 с 32 ГБ памяти HBM2 (High Bandwidth Memory).
Важно
В отличие от vGPU, GPU работает в режиме TCC, который не использует графические драйверы операционной системы.
По умолчанию в облаке установлена нулевая квота на создание виртуальных машин с GPU и vGPU. Чтобы изменить квоту, обратитесь в техническую поддержку.
Графические ускорители (GPU)
Графическая карта NVIDIA® Tesla® V100 содержит 5120 ядер CUDA®, позволяющих выполнять высокопроизводительные вычисления (High Performance Computing, HPC), а также 640 ядер Tensor, позволяющих решать задачи глубокого обучения (Deep Learning, DL).
Кроме того, графические ускорители подходят для задач машинного обучения (Machine Learning, ML), искусственного интеллекта (Artificial Intelligence, AI) и обработки трехмерной графики (3D Rendering).
Контролировать GPU и RAM можно непосредственно с виртуальной машины.
Конфигурации виртуальных машин
Доступные конфигурации вычислительных ресурсов:
-
Платформа Intel Broadwell with NVIDIA® Tesla® V100 (
gpu-standard-v1):Количество GPU Количество vCPU Объем RAM, ГБ 1 8 96 2 16 192 4 32 384 -
Платформа Intel Cascade Lake with NVIDIA® Tesla® V100 (
gpu-standard-v2):Количество GPU Количество vCPU Объем RAM, ГБ 1 8 48 2 16 96 4 32 192 8 64 384
Ознакомиться с организационными и техническими ограничениями ВМ можно в разделе Квоты и лимиты.
Образы операционных систем
Для виртуальных машин с GPU доступны специальные образы операционных систем Windows — 2016 Datacenter GPU (windows-2016-gvlk-gpu) и Ubuntu — 16.04 lts GPU (ubuntu-1604-lts-gpu), на которых установлены драйверы NVIDIA. Чтобы использовать другие образы, установите необходимые драйверы самостоятельно.
Виртуальные графические ускорители (vGPU)
Compute Cloud предоставляет возможность виртуализации графических ускорителей (GPU). Виртуализация машин с GPU основана на технологии NVIDIA® vGPU.
Технология NVIDIA® vGPU позволяет использовать карты с GPU как для решения графических, так и для вычислительных задач на vGPU. Для этого вам понадобятся соответствующие лицензии.
Чтобы воспользоваться технологией vGPU, необходимы:
- ВМ на платформе
vgpu-standard-v1с одним из образов: - Лицензия для использования технологии NVIDIA® vGPU.
- Сервер лицензий NVIDIA® vGPU Software License Server.
Для работы с лицензией вы можете:
- Использовать свой текущий сервер лицензий.
Текущий сервер лицензий должен быть доступен по сети из ВМ с vGPU. - Создать ВМ с сервером лицензий NVIDIA® vGPU Software License Server в Yandex.Cloud.
Как установить и настроить сервер лицензий читайте в документации NVIDIA.
Конфигурации виртуальных машин с vGPU
Для ВМ с vGPU доступна конфигурация на платформе Intel Broadwell with NVIDIA® vGPU Tesla® V100 8G (vgpu-standard-v1):
| Количество vGPU | Количество vCPU | Объем RAM, ГБ | Объем GPU RAM, ГБ |
|---|---|---|---|
| 1 | 4 | 12 | 8 |
Сравнение GPU и vGPU
| Параметр | GPU | vGPU |
|---|---|---|
| Возможности применения | Задачи машинного обучения и искусственного интеллекта, обработка трехмерной графики | Игры, 3D моделирование, системы автоматического проектирования |
| Доля ускорителей вычислений Tesla V100 | 100 % | 25 % |
| Режим работы видеокарты | TCC | WDDM |
| CUDA® | ||
| Работа с графикой (поддержка Vulkan, OpenGL и Direct3D) | ||
| Необходим сервер лицензий |
Смотрите также
- Создание виртуальной машины с GPU.
- Узнайте, как добавить GPU к существующей ВМ.
- Узнайте, как изменить количество GPU.