Yandex Cloud
  • Сервисы
  • Решения
  • Почему Yandex Cloud
  • Сообщество
  • Тарифы
  • Документация
  • Связаться с нами
Подключиться
Language / Region
© 2022 ООО «Яндекс.Облако»
Yandex DataSphere
  • Начало работы
  • Пошаговые инструкции
    • Все инструкции
    • Управление проектом
      • Создание проекта
      • Выбор версии Python
      • Установка зависимостей
      • Управление вычислительными ресурсами
      • Настроить ограничения вычислений для проекта
      • Настроить ограничения вычислений для каталога
      • Изменение размера хранилища проекта
      • Изменение имени или описания
      • Удаление ноутбука или проекта
    • Поделиться ноутбуком
      • Публикация ноутбука
      • Экспорт проекта
    • Работа с ноутбуком
      • Запуск примеров кода в ноутбуке
      • Версионирование. Работа с контрольными точками
      • Очистка состояния интерпретатора
      • Работа с Git
    • Управление Docker‑образами
      • Docker-образ для проекта
      • Docker-образ в ячейке
    • Подключение к источникам данных
      • Подключение к базе данных ClickHouse
      • Подключение к базе данных PostgreSQL
      • Подключение к хранилищу S3
    • Настройка интеграции с Data Proc
    • Работа с приватными данными
      • Создание секрета
      • Вызов секрета
      • Изменение секрета
      • Копирование секрета
      • Удаление секрета
    • Запуск распределенного обучения
    • Развертывание эксплуатации моделей
      • Создание ноды из ячейки с кодом на Python
      • Настройка окружения ноды
      • Запросы в ноды
  • Концепции
    • Обзор
    • Проект
    • Список предустановленного ПО
    • Доступные команды
    • Служебные команды #pragma
    • Конфигурации вычислительных ресурсов
    • Интеграция с системами контроля версий и данных
    • Сохранение состояния
    • Интеграция с Data Proc
    • Фоновые операции
    • Датасеты
    • Хранение приватных данных
    • Развертывание эксплуатации моделей
    • Использование TensorBoard в DataSphere
    • Распределенное обучение
    • Управление расходами
    • Квоты и лимиты
  • Ранний доступ
    • Обзор
    • Специальные фоновые операции
  • Практические руководства
    • Все руководства
    • Знакомство с DataSphere
    • Голосовая биометрия
    • Оценка качества STT моделей
    • Разметка аудио
    • Классификация изображений на видеокадрах
  • Справочник API
    • Аутентификация в API
    • gRPC (англ.)
      • Overview
      • AppTokenService
      • FolderBudgetService
      • NodeService
      • ProjectDataService
      • ProjectService
      • OperationService
    • REST (англ.)
      • Overview
      • AppToken
        • Overview
        • validate
      • FolderBudget
        • Overview
        • get
        • set
      • Node
        • Overview
        • execute
      • Project
        • Overview
        • create
        • delete
        • execute
        • get
        • getCellOutputs
        • getNotebookMetadata
        • getStateVariables
        • getUnitBalance
        • list
        • open
        • setUnitBalance
        • update
  • Управление доступом
  • Правила тарификации
  • Публичные материалы
  • Релизы
  • Вопросы и ответы
  1. Концепции
  2. Развертывание эксплуатации моделей

Развертывание эксплуатации моделей

Статья создана
Yandex.Cloud
  • Ноды из ячеек с кодом на Python
  • Статусы ноды и ее инстансов

С помощью DataSphere вы можете развернуть в качестве микросервисов свои обученные модели и предоставить к ним доступ для сторонних ресурсов.

Модели развертываются на инстансах — виртуальных машинах, на которых будет зафиксировано состояние интерпретатора и код модели.

Для балансировки нагрузки инстансы объединяются в ноды — изолированные в собственном контуре группы виртуальных машин. Для доступа к ноде используется API.

Ноды из ячеек с кодом на Python

Для создания ноды из ячейки с кодом на Python необходимо сохранить контрольную точку с нужным состоянием интерпретатора. API будет сгенерирован автоматически на основе переменных, отмеченных при создании ноды.

Запросы API могут менять состояние интерпретатора ноды. Вернуть первоначальное состояние невозможно без пересоздания всей ноды.

Подробнее о создании ноды из ячейки с кодом на Python читайте на странице Создание ноды из ячейки с кодом на Python.

По умолчанию инстансы используют стандартные системные Docker-образы и не копируют установленные пользователем библиотеки. Если для работы вашего микросервиса необходимы пакеты, которые не входят в список предустановленного ПО, настройте Docker-образ для развертывания окружения ноды.

Статусы ноды и ее инстансов

Инстансы ноды могут иметь один из следующих статусов:

  • HEALTHY – инстанс здоров и доступен для балансировки;
  • UNHEALTHY – с инстансом возникли проблемы, он исключён из балансировки;
  • CREATED – для инстанса создана ВМ;
  • STARTED – с ВМ инстанса установлена связь;
  • PREPARING – инстанс подготавливается к обслуживанию запросов;
  • DELETING – инстанс находится в процессе удаления;
  • UNDEFINED – начальное состояние инстанса, ВМ ещё не создана.

Нода DataSphere может находиться в одном из статусов:

  • HEALTHY — количество ВМ со статусом HEALTHY в ноде равно минимальному числу требующихся ВМ;
  • UNHEALTHY — количество ВМ со статусом HEALTHY в ноде меньше минимально допустимого;
  • CREATED — нода только что создана;
  • DELETING — нода в процессе удаления.

Была ли статья полезна?

Language / Region
© 2022 ООО «Яндекс.Облако»
В этой статье:
  • Ноды из ячеек с кодом на Python
  • Статусы ноды и ее инстансов