Большая новость на российском айти-рынке: Яндекс выпустил новое поколение языковых моделей YandexGPT 4. В релиз вошли две версии: флагманская Pro и облегченная Lite.

Количество обрабатываемых токенов увеличено в 4 раза — до 32 тысяч, что позволяет работать с большими документами. В обучении применили подход с пошаговыми рассуждениями (Chain-of-thoughts), благодаря чему модели научились лучше анализировать проблемы, выделять этапы решения и рассуждать над их реализацией.

Pro-версия превосходит предыдущее поколение в 70% тестов. В RAG-сценариях заметно снизилось количество галлюцинаций, что улучшило работу с документами.

Модели уже доступны через API в Yandex Cloud. В ближайшее время их интегрируют в Алису с опцией Про, а позже добавят function calling для создания продвинутых ассистентов.

https://habr.com/ru/companies/yandex/articles/852968/