Yandex опубликовал открытый доступ к большой языковой модели (LLM) Yandexgpt 5 Lite Preferain. Новая модель из 8 миллиардов параметров с контекстуальной поддержкой 32 000 токенов будет полезна для разработчиков и представителей бизнеса. Компании могут получить его для задач, не тратя время на создание своей собственной модели.
Версия Pontrain имеет в курс знания мира, включают контекст и языковые модели. Модель преподавалась с использованием технологии Yandex в двух шагах.
На первом этапе использовались тексты, код, расчеты и другие российские данные и на английском языке с общим объемом 15 миллиардов токенов. На втором этапе модель была обучена высококачественным данным с объемом 320 миллиардов токенов.
Основная (PREW) версия модели может быть адаптирована ко всем потребностям. Он использовал наиболее широко и может использоваться в разработке, бизнесе и научных исследованиях. Кроме того, из -за его компактного, Yandexgpt 5 Lite Pontrain не требует высокой мощности расчета и будет полезен для тех, кому нужна небольшая российская модель, сообщает Yandex.
Yandexgpt 5 Lite Pretrain является частью нового поколения нейронных сетей Yandex — Yandexgpt 5 — и доступен бесплатно на ОбъятиеПолем Вторая семейная модель, Yandexgpt 5 Pro, доступна для коммерческих представителей на платформе Cloud Cloud Yandex и пользователях в разговоре с Алисой.
Помните, что в последний раз Yandex загрузил большую языковую модель для открытого доступа в 2022 году-это был Yalm-100B.
Источник: пресс -релиз Yandex
