NewNvidia docker Очень хочется развертывать небольшие ai сервисы, было бы удобно использовать данное решение https://github.com/NVIDIA/nvidia-docker с настройкой нужных ресурсов.