Обновление YandexGPT API и грант для технологических компаний

В процессе подготовки YandexGPT API к выходу в режиме Public Preview, мы добавили ряд новых возможностей и улучшений. В сервисе^* стала доступна большая модель YandexGPT, работающая в асинхронном режиме. Она лучше справляется с решением сложных текстовых задач и подойдет, например, для аналитики аудиозаписей. При этом остаётся и более простая модель YandexGPT Lite для задач, где требуется ответ на запросы в режиме реального времени.

Также мы собрали библиотеку готовых текстовых запросов к нейросети — промтов — по наиболее популярным для бизнеса сценариям использования нейросети. Промты позволяют пользователям составлять свои успешные запросы и организовывать работу с GPT-сценариями. Например, сгенерировать заголовки по содержанию или написать рекламное объявление. Кроме того, сделали API удобнее и перешли на универсальный режим генерации запросов и ответов.

Другие возможности YandexGPT API:

• В консоли, благодаря удобному интерфейсу, вы сможете подбирать промты для своих задач, а также отслеживать детализацию потребления и нагрузку на облачные ресурсы.

• В ходе текстового диалога YandexGPT API лучше учитывает контекст беседы, например, если пользователь задал вопрос, получил ответ и затем уточняет информацию по тому же вопросу.

• Добавили эмбеддинги — удобный способ представления текста в виде числовых векторов. Эмбеддинги позволяют предсказывать близкие по смыслу слова и лучше определять контекст запроса.

• Все генеративные модели теперь используют версию YandexGPT 2. По сравнению с предыдущей версией YandexGPT 2 в 67% случаев лучше отвечает на вопросы, успешнее справляется с генерацией идей, а также со стилизацией, пересказом, анализом и созданием текстов.

• Fine Tuning в сервисе Yandex DataSphere. Теперь компании могут использовать модель, дообученную на собственных данных. Это особенно полезно в областях, где используют специфические понятия и термины.

После выхода YandexGPT API в режиме Public Preview^** для сервиса начали действовать правила тарификации, а также квоты на запросы, которые можно увеличить, обратившись в техническую поддержку.

Как бизнес использует YandexGPT APIКак бизнес использует YandexGPT API

В процессе тестирования YandexGPT API мы получили более 20 тысяч заявок, больше всего от IT-компаний, представителей ритейла и банков. Сегодня испытать возможности YandexGPT API может любой пользователь Yandex Cloud. Получите грант до 1 миллиона рублей в рамках программы Yandex Cloud Boost AI и используйте YandexGPT API для создания чат-ботов и умных помощников, генерации и структурирования текстовой информации в бизнес-приложениях и веб-сервисах. Весь процесс от заявки до одобрения займёт до 10 рабочих дней. Важно, чтобы у вас был свой технологический продукт (на стадии MVP и выше) и идея использования в нём YandexGPT API. Узнать об условиях программы подробнее или подать заявку для участия можно на сайте.

Компании проверили возможности YandexGPT API в нескольких десятках сценариев применения больших языковых моделей. Основные из них:

• Написание и редактура текстов.

• Создание чат-ботов и виртуальных ассистентов.

• Ответы на вопросы пользователей по базе знаний.

• Обобщение и интерпретация данных из рабочих чатов и отзывов.

• Анализ и классификация запросов пользователей.

Например, онлайн-сервис для бизнеса Битрикс24 встроил YandexGPT API в своего ИИ-ассистента CoPilot. Технология помогала пользователям в десятках сценариев, расшифровывала записи разговора с покупателем, заполняла детали заказа, писала посты, ставила задачи и редактировала тексты. А сервис Dasha.AI тестирует YandexGPT API для автоматизации голосовых сценариев в колл-центрах. Нейросеть помогает размечать телефонные запросы клиентов и формировать для роботов наиболее релевантные ответы на вопросы.

Другие компании оценили, что умеет YandexGPT API в роли ассистента юридической службы, консультанта по психологическим темам и SMM-менеджера.

«Бизнес использует нейросеть не просто для автоматизации отдельных бизнес-процессов, а для разработки IT-продуктов. Новая программа Yandex Cloud Boost AI позволит компаниям создавать ещё более сложные и комплексные проекты с применением YandexGPT. Мы, в свою очередь, готовы делиться экспертизой, чтобы time-to-market таких проектов был максимально коротким, а применение — наиболее эффективным».

Мы продолжаем изучать самые популярные сценарии использования сервиса, а также изучаем результаты работы бизнеса с языковыми моделями. Дальше мы планируем добавить в YandexGPT API ещё больше возможностей и удобных инструментов.

^* Сервис предназначен для решения бизнес-задач с помощью генеративной модели. Все запросы логируются. Помните, модель может предоставить некорректную информацию. Её ответы не являются позицией Яндекса. Ознакомьтесь с правилами использования.

^**Сервисы на стадии Preview подойдут для разработчиков, которые готовы использовать их в разработке своих приложений или в тестовом окружении. Для Preview-сервисов не действует соглашение об уровне обслуживания (SLA), и их использование тарифицируется в случаях, предусмотренных специальными условиями, документацией или сайтом.