Post #297
102

Как работает JEV и почему о нем так много говорят
Текущие AI модели это чаще всего текстовые чаты. Они генерируют много текста. Это ресурсоемко и дорого.
JEV модель по заданным вопросам всегда возвращает только JSON с вероятным ответом и с процентом уверенности, что этот ответ правильный.
— JEV, скажи, этот комментарий спам?
— `{ "spam": "true", "confidence": "95" }`
— Понятно, это спам с 95% вероятностью — удаляем!
Это очень быстро и дешево. Никакой текстовой генерации на 2 минуты.
RubyLLM тоже добавили поддержку через отдельный класс RubyLLM::Judge. Кажется он еще даже не зарелижен.
Дизайн их гема явно шел в разрез с новым типом AI моделей.
Мой гем изначально был построен так, что мне практически ничего не пришлось придумывать, только добавить нового провайдера. Считаю это своим архитектурным успехом.
Заложенная изначально чистая и правильная мысль приводит в долгосрочным стабильным результатам.
Когда смотрю на примеры моего ActiveHarness — глаз радуется.
Ruby for the WIN!
Текущие AI модели это чаще всего текстовые чаты. Они генерируют много текста. Это ресурсоемко и дорого.
JEV модель по заданным вопросам всегда возвращает только JSON с вероятным ответом и с процентом уверенности, что этот ответ правильный.
— JEV, скажи, этот комментарий спам?
— `{ "spam": "true", "confidence": "95" }`
— Понятно, это спам с 95% вероятностью — удаляем!
Это очень быстро и дешево. Никакой текстовой генерации на 2 минуты.
RubyLLM тоже добавили поддержку через отдельный класс RubyLLM::Judge. Кажется он еще даже не зарелижен.
Дизайн их гема явно шел в разрез с новым типом AI моделей.
Мой гем изначально был построен так, что мне практически ничего не пришлось придумывать, только добавить нового провайдера. Считаю это своим архитектурным успехом.
Заложенная изначально чистая и правильная мысль приводит в долгосрочным стабильным результатам.
Когда смотрю на примеры моего ActiveHarness — глаз радуется.
Ruby for the WIN!
- ❤ 4
- 👍 2

















