Генерация за 70 миллисекунд без галлюцинаций 😳

Сегодня в Твиттере целый день хайпила новая турбо-модель — Jev. И этот хайп оправдан. Это совершенно новый вид моделей семейства System One Models, из которой убрали генерацию «токен за токеном» и сразу перешли к генерации типизированных решений.

Звучит непонятно, объясняю на примере Doom:

• В игре есть стрельба, ходьба, уровень здоровья, мобы и т.д.
• Все эти данные об игре передаются в JSON-формате вместе с вопросом по типу «Че делать в данный момент?» или несколькими вопросами — таких запросов отдаётся 10 в секунду
• Модель анализирует, высчитывает вероятности и отдаёт обратно самый удачный вариант действия в данный момент также в виде JSON
• Тут важный момент — не текст, а именно сразу JSON из коробки
• Далее какой-нибудь алгоритм обрабатывает этот JSON-ответ и отдаёт в игру

Первый ролик в посте показывает, как это работает на деле. Очень впечатляет.

Ещё раз: у этой нейронки полностью исключили галлюцинации на уровне архитектуры. Она отдаёт только заранее заготовленные ответы и просчитывает все возможные исходы параллельно. Отсюда такая скорость генерации.

Эту модель вы точно увидите ещё не раз.

Пет-проект