На смену мухе дрозофиле пришел JEV.
Только сегодня спустя 3 дня ожидания получил пропуск по вайтлисту к модельке.
Главная фича: модель генерирует не текст, а именно решения в формате json. Но так как ей больше не нужно генерировать токены последовательно и выстраивать из них логичную цепоку, времени ей на это надо в очень много раз меньше...
То есть харнесом в данном случае выступает надстройка о том что за контекст модель будет получать и по какой логике и в каком формате ей надо отвечать.
Так, модель вместо генерации пары сотен токенов за секунду генерирует сони готовых json...
Это буквально такое ускорение которое человеку уже нереально физически проанализировать в моменте.
Не буду пока сильно накидывать пуха, чуть позже постараюсь хорошие видосики с демонстрацией найти.
Но галочку поставьте что эта модель и вообще такая архитектура построения модели ТОЧНО изменят рынок.
Post #429
39
- ❤ 4