О чём история
Осенью 2022 года российская IT‑компания EORA перенесла виртуальные машины, управляемые БД и 6 ТБ данных клиентов в Yandex Cloud. Переезд к новому провайдеру занял месяц и потребовал участия всего двух специалистов компании. Переключение прошло без даунтайма. При этом EORA сэкономила 300 000 рублей благодаря участию в программе Yandex Cloud Boost.
Теперь все клиентские проекты компании развёрнуты в Yandex Cloud. Среди них сервисы поиска похожих товаров и товарных знаков.
Задача компании
EORA — поставщик решений с использованием технологий искусственного интеллекта. Бизнес обращается в компанию за чат‑ботами, роботами для колл‑центров, виртуальными ассистентами, системами компьютерного зрения и обработки естественного языка. В портфолио EORA совместные проекты с Яндексом, «Сбером», «Додо», Qiwi и «Столото».
Команда EORA регулярно участвует и побеждает в международных хакатонах и других конкурсах. Так, в 2020 году по программе NVIDIA Inception компания получила грант от Amazon и бесплатно разместила часть IT‑инфраструктуры в AWS (Amazon Web Services). Там развернули шлюз для передачи данных, сервис мониторинга всей инфраструктуры и сервисы, которые требуют GPU.
Осенью 2022 года грант истекал. Оставаться в AWS компания не хотела: она зарабатывает в рублях, а платить нужно в долларах. Плюс у клиентов есть запрос на хранение и обработку данных на территории РФ. И EORA приготовилась к миграции в облако поближе.
Облако с гарантированным SLA и производительными видеокартами
У EORA уже был опыт работы с российскими провайдерами: отдельные проекты клиентов размещались в тех ЦОД, где это было дешевле. Но к 2022 году в компании поняли: надо переходить на более комплексные и технологически зрелые решения. Особенно после опыта с Amazon.
Блокирующих требований компания не формулировала. Главное — соблюдение SLA, хорошее железо, наличие производительных видеокарт и достаточная пропускная способность канала. Факультативным критерием было то, выполняет ли сервис требования российского законодательства по хранению и обработке персональных данных: клиенты всё чаще об этом беспокоятся.
Всем этим критериям соответствовали несколько игроков рынка. Поэтому менеджмент EORA учитывал качество и скорость работы поддержки, а также уже имеющийся опыт сотрудничества.
Выбор в пользу Yandex Cloud сделали в том числе из‑за давнего партнёрства с Яндексом. В 2018 году EORA стала одним из первых сторонних разработчиков, которые делали навык для Алисы: научила её бронировать билеты на рейсы авиакомпании S7.
Также собственная диалоговая платформа EORA Dialog интегрирована с сервисом Yandex SpeechKit. Компания использует его для распознавания и синтеза речи. Благодаря такой интеграции EORA автоматизировала колл‑центр сети «Додо Пицца».
Хорошо подходили под задачи компании и виртуальные машины Compute Cloud, предоставляющие три типа производительных графических ускорителей на выбор: NVIDIA® Tesla® V100, NVIDIA® Ampere® A100, NVIDIA® Tesla® T4.
Кроме того, по программе Yandex Cloud Boost EORA получила грант, который можно использовать на инфраструктурные и платформенные решения. EORA пригодились 300 000 рублей на серверную инфраструктуру: платить во время переезда сразу за две облачные платформы для компании было бы слишком накладно.
Перенос инфраструктуры и данных
Нужно было перенести три обычные виртуальные машины и три — с GPU. Хотя они были контейнеризированы, потребовалось настроить их определённым образом. Проблем с этим не возникло: выручила заранее подготовленная документация и готовые скрипты для развёртывания.
Несколько сложнее было с переносом датасетов объёмом 6 ТБ из Simple Storage Service (S3) — на это ушло около двух недель. Сначала данные выгружали из AWS с помощью готового скрипта, а затем загружали в Yandex Object Storage.
Весь переезд занял месяц. Со стороны компании им занимались два человека: один отвечал за перенос данных, другой — за развёртывание сервисов. Для консультаций привлекали специалистов компании‑партнёра и экспертов Yandex Cloud.
На виртуальных машинах с GPU NVIDIA® Tesla® T4 компания развернула модель векторизации текстов, которая используется при обработке естественного языка, и модель нейросетевого поиска изображений. Они применяются в большинстве клиентских проектов. Например:
- Для патентно‑адвокатского бюро EORA разработала нейросетевой поиск похожих товарных знаков. Юристы загружают изображение, которое их клиенты хотят зарегистрировать, и система ищет по базам, не занял ли уже кто‑нибудь подобный товарный знак.
- Для мебельного интернет‑магазина компания запустила поиск предметов интерьера по фотографии. Дизайнер загружает фото, система распознаёт предметы и предлагает карточки похожих товаров из каталога магазина.
Эти и другие клиентские проекты компания намерена размещать в облаке, куда перевезла всю критическую инфраструктуру.
Все клиенты теперь в одном облаке
Миграцию удалось осуществить за месяц и без даунтайма сервисов EORA. Затраты на облачную инфраструктуру у EORA больше не зависят от курсов валют. При этом программа Yandex Cloud Boost позволила сэкономить 300 000 рублей. В техническом плане миграция не изменила воркфлоу компании, объём и качество облачных услуг в Yandex Cloud полностью соответствуют требованиям EORA. А оперативная работа службы поддержки Yandex Cloud позволяет быстро решать возникающие у команды вопросы.
Во многих проектах компания использует собственные наработки в компьютерном зрении. Теперь она легко может при необходимости подключать для работы над подобными заказами платформенные решения Yandex Cloud. Например, для задач распознавания текста, быстрого запуска MVP или прототипов с помощью SaaS‑сервисов Yandex Cloud, таких как Yandex Vision. Кроме того, EORA планирует попробовать связку сервисов Yandex Managed Service for ClickHouse и Yandex DataLens
Мнение
Мы надеемся, что наша компания будет расти, в том числе с точки зрения технологической зрелости. И, соответственно, чем дальше, тем больше мы будем использовать разного рода платформенные решения. Это могут быть managed базы данных или контейнерное развёртывание, а также cloud‑native‑решения. И Yandex Cloud даёт нам базу для такого технологического роста.