Что такое Jev и почему я рада релизу этой модели, хотя к себе в прод пока не беру 😳

Есть явная закономерность в мире фронтир моделей - следующая модель будет точнее и чаще всего больше, а список тех кто может ее запустить на своем железе будет короче с каждым релизом

Неделю назад вышла Jev и модель интересна тем, что на выход выдаются числа, а не предложения. На вход состояние и типизированные вопросы - какая из пяти опций, да или нет, оцени от нуля до четырех - на выход решения с вероятностями. Получается универсальный классификатор, который без обучения выдает вероятности классов, тратит на это 300 мс и 4 цента за миллион токенов ☺️

Фаундер один из авторов InstructGPT, то есть человек который строил самые большие модели строит питч на том, что для половины задач генерация в принципе не очень нужна, что в целом имеет смысл, ведь все эти фразы "конечно, вот мой ответ" по факту только наши драгоценные токены тратят 🤔

Идея сама по себе не новая конечно же и тут можно сказать что зумеры изобрели BERT или даже линейный классификатор 😂
Новое здесь другое - работает без дообучения на любой схеме и за один вызов можно спросить о множестве вещей сразу

Почему это хорошо даже если конкретно эта модель вам не нужна 🌟

Еще один громкий прецедент от человека с именем про уменьшение и оптимизацию моделей (с другой идеей но в ту же сторону кстати mostik.ai). Продается не то, что модель точнее/больше, а то, что она дешевле и довольно точна там, где на выходе достаточно одного числа 🐵

Из того с чем я уже поигралась в контексте aesty это доп проверка собранного аутфита - какая вещь лишняя и чем заменить. Очевидное ловит отлично, пальцевые вибрамы (нишевые спортивные ботинки) к ужину поправила, но с более сложными критериями надо долго тюнить, а тюнить ее можно только текстом - ожидаемо одно слово в описании задачи значительно меняет поведение. В итоге старые добрые if по признакам вещей убрали 48 ошибок стайлинга из 51, а Jev всего лишь сверху еще одну 😅 Еще нюанс, что модель работает только с текстом и видит только наши уже вытянутые признаки (цвет, паттерн, стиль и тд), а не сами картинки

В то же время с Jev мы довольно хорошо и дешево профильтровали базу вещей из магазинов, где простые регулярки налажали 😎

Но релизу я очень рада. Чем больше внимания к тому чтобы делать меньше и дешевле, тем более доступными становятся модели для простых билдеров 🍿

@neural_prosecco