Яндекс запустил YandexGPT 3 Lite, облегченную версию своей генеративной нейронной сети третьего поколения, которая теперь доступна клиентам облачной платформы Яндекса через API. Новая модель подходит для разных типов бизнеса: от малого бизнеса до крупных организаций.
YandexGPT 3 Lite будет полезен в ситуациях, когда важна скорость реагирования, например, при консультировании клиентов в чате и по телефону, подготовке ответов для служб поддержки, создании маркетинговых материалов и резюме рабочих встреч. Крупные компании могут использовать его для анализа данных, необходимых для принятия решений.
Новая модель превосходит YandexGPT 2 Lite по ряду показателей.:
- YandexGPT 3 Lite быстрее и точнее отвечает на вопросы по результатам теста YaMMLU_ru (российская версия международного бенчмарк-теста MMLU).
- YandexGPT 3 Lite ответил лучше в 68% случаев в сравнительном тесте методом Side by Side (нейронные сети отвечали на одни и те же вопросы, и эксперты выбирали лучший ответ).
- YandexGPT 3 Lite допускает меньше орфографических и фактических ошибок по сравнению с моделью второго поколения.
Для обучения YandexGPT 3 Lite специалисты Яндекса использовали технологию обучения программы, позволяющую постепенно усложнять данные, и обучение с подкреплением (RL), а также добавили технологию Grouped Query Attention, ускоряющую обработку данных без потери качества.
Модель доступна для интеграции в продукты через API сервиса Foundation Models. Новая модель заменит предыдущую в течение месяца, но протестировать ее можно уже сейчас. Стоимость использования YandexGPT 3 Lite составляет 20 копеек за тысячу токенов, а новые пользователи Yandex Cloud могут бесплатно протестировать его в демо-режиме.
Напомним, Яндекс представил линейку нейросетей YandexGPT 3 в марте 2024 года.
Источник: пресс-релиз Яндекса
