Yandex Cloud
  • Сервисы
  • Решения
  • Почему Yandex Cloud
  • Сообщество
  • Тарифы
  • Документация
  • Связаться с нами
Подключиться
Language / Region
Проект Яндекса
© 2023 ООО «Яндекс.Облако»
Yandex DataSphere
  • Начало работы
  • Пошаговые инструкции
    • Все инструкции
    • Управление сообществом
      • Создать сообщество
      • Добавить пользователя в сообщество
      • Добавить канал связи
      • Привязать платежный аккаунт
      • Посмотреть детализацию расходов
      • Удалить сообщество
    • Управление проектом
      • Создать проект
      • Добавить пользователя в проект
      • Выбрать версию Python
      • Изменить размер хранилища проекта
      • Изменить настройки проекта
      • Задать ограничения для проекта
      • Удалить ноутбук или проект
    • Работа в ноутбуке
      • Выбрать вычислительные ресурсы
      • Установить пакеты
      • Очистить состояние интерпретатора
      • Примеры кода в ноутбуке
      • Работа с Git
      • Запустить Docker-контейнер в отдельной ячейке
    • Работа с ресурсами
      • Работа с секретами
      • Работа с контрольными точками
      • Работа с шаблонами Data Proc
      • Работа с Docker-образами
      • Работа с датасетами
    • Подключение к источникам данных
      • Подключение к хранилищу S3
      • Подключение к базе данных ClickHouse
      • Подключение к базе данных PostgreSQL
      • Подключение к Яндекс Диску
      • Подключение к Google Drive
    • Развертывание эксплуатации моделей
      • Создать ноду с кодом на Python
      • Изменить ноду
      • Удалить ноду
      • Настроить окружение ноды
      • Отправить запрос в ноду
      • Создать алиас
      • Изменить алиас
      • Удалить алиас
    • Совместный доступ
      • Публикация ноутбука
      • Экспорт проекта
    • Как перенести работу в новый интерфейс
  • Концепции
    • О сервисе DataSphere
    • Взаимосвязь ресурсов в DataSphere
    • Сообщества
    • Управление расходами
    • Проект и его окружение
      • Проект
      • Конфигурации вычислительных ресурсов
      • Состояние интерпретатора
      • Список предустановленного ПО
      • Режим раннего доступа
    • Вычисления и обучение моделей
      • Доступные команды
      • Служебные команды #pragma
      • Фоновые операции
      • EA — Специальные фоновые ячейки
      • Вычисления на кластерах Apache Spark™
    • Ресурсы
      • Обзор
      • Секреты
      • Docker-образы
      • Контрольные точки
      • Датасеты
      • Шаблоны Data Proc
    • Эксплуатация моделей
    • Квоты и лимиты
  • Практические руководства
    • Все руководства
    • Интеграция с сервисом Yandex Data Proc
    • Развертывание сервиса на основе Docker-образа
    • Веб-аналитика с расчетом воронок и когорт на данных Яндекс Метрики
  • Управление доступом
  • Правила тарификации
  • Публичные материалы
  • Релизы
  • Вопросы и ответы
  1. Концепции
  2. Эксплуатация моделей

Эксплуатация моделей

Статья создана
Yandex Cloud
  • Ноды
    • Нода из контрольной точки
    • Нода из произвольного Docker-образа
    • Статусы ноды
    • Статусы инстанса
  • Алиас

DataSphere предоставляет инструменты для релиза сервисов, доступных для сторонних ресурсов. Вы можете развернуть для эксплуатации не только модель, обученную в DataSphere, но и создать при помощи тех же инструментов полноценный работающий сервис на базе Docker-образа.

Для публикации сервиса DataSphere предоставляет специальные ресурсы — ноды и алиасы.

Ноды

Нода — это изолированная в собственном контуре группа специально созданных виртуальных машин (инстансов), между которыми распределяется вычислительная нагрузка. Инстансы ноды создаются с заранее определенным окружением и зафиксированным состоянием интерпретатора. В зависимости от потребностей вы можете выбрать различные конфигурации инстансов.

Важно

При развертывании эксплуатации моделей вы платите за время работы каждого инстанса ноды — от момента запуска до момента удаления.

Если развернутый сервис вам больше не нужен, удалите ноду.

Обращение к нодам происходит по API. Запросы API могут менять состояние интерпретатора ноды. Для возврата первоначального состояния потребуется пересоздать всю ноду.

Примечание

Максимальный размер запроса и ответа API ноды — 16 МБ.

Для создания ноды укажите каталог облака вашей организации, в котором нода будет разворачивать инстансы и хранить логи. В каталоге необходимо настроить подсеть с доступом в интернет с помощью NAT-шлюза и создать сервисный аккаунт с ролью vpc.user. Укажите этот сервисный аккаунт в настройках проекта DataSphere.

Нода из контрольной точки

Ноды из контрольной точки подойдут для тестирования и проверки гипотез. Чтобы создать ноду, необходимо закрепить контрольную точку ячейки, в которой определены входные и выходные параметры вашего будущего микросервиса: на основе этой информации DataSphere автоматически сгенерирует gRPC и REST API.

По умолчанию инстансы ноды используют стандартные системные Docker-образы и не копируют установленные пользователем библиотеки. Если для работы вашего микросервиса необходимы пакеты, которые не входят в список предустановленного ПО, настройте Docker-образ для развертывания окружения ноды.

Нода из произвольного Docker-образа

Ноды, развернутые из Docker-образа, размещенного в реестре контейнеров, будут полноценным рабочим сервисом. Docker-образ не обязательно должен содержать модель, обученную в DataSphere — вы можете создать любой образ и разместить его в удобном для вас реестре. О том, как загрузить Docker-образ в реестр Yandex Container Registry, см. Загрузить Docker-образ в реестр.

Примечание

Для использования Yandex Container Registry сервисному аккаунту проекта необходима роль container-registry.images.puller.

При создании ноды из Docker-образа вы сами определяете API создаваемой ноды, порт, который ваш сервис будет использовать, время соединения, формат собираемых метрик и другие параметры. После создания ноды DataSphere будет следить за ее состоянием, поддерживать работу инстансов и, при необходимости, масштабировать ноду в пределах заданного диапазона инстансов.

Статусы ноды

Нода DataSphere может находиться в одном из статусов:

  • Healthy — количество инстансов со статусом Healthy в ноде равно минимальному числу требующихся инстансов;
  • Unhealthy — количество инстансов со статусом Healthy в ноде меньше минимально допустимого;
  • Created — нода только что создана;
  • Deleting — нода в процессе удаления.

Статусы инстанса

Инстансы ноды могут иметь один из следующих статусов:

  • Healthy – инстанс здоров и доступен для балансировки;
  • Unhealthy – с инстансом возникли проблемы, он исключен из балансировки;
  • Created – для инстанса создана ВМ;
  • Started – с ВМ инстанса установлена связь;
  • Preparing – инстанс подготавливается к обслуживанию запросов;
  • Deleting – инстанс находится в процессе удаления;
  • Undefinied – начальное состояние инстанса, ВМ еще не создана.

Алиас

Алиас — специальный ресурс для публикации и обновления сервиса, который позволяет незаметно для пользователей заменять ноды и обновлять развернутый сервис во время работы.

Создайте алиас и используйте его в качестве эндпоинта сервиса. Вы можете изменять связанные с ним ноды, балансировать нагрузку между ними и убирать устаревшие версии Docker-образа незаметно для пользователя.

См. также

  • Создать ноду.
  • Создать алиас.

Была ли статья полезна?

Language / Region
Проект Яндекса
© 2023 ООО «Яндекс.Облако»
В этой статье:
  • Ноды
  • Нода из контрольной точки
  • Нода из произвольного Docker-образа
  • Статусы ноды
  • Статусы инстанса
  • Алиас