Нашли ультимативную коллекцию лучших проектов на базе Jev — такие модели не пишут текст, а принимают быстрые решения из заданных вариантов.
Класс Jev до 1️⃣9️⃣4️⃣ раз быстрее и до 4️⃣4️⃣5️⃣ раз дешевле обычных LLM. Можете проверить — на GitHub дропнули сборник с сотнями тулз, библиотек и проектов на Jev:
🔅 Управление агентами — Jev выбирает, какую модель дешевле вызвать, какую кнопку нажать и тд;
🔅 Поиск и разбор больших потоков — определяет срочность писем, отделяет важное от неважного и классифицирует что угодно;
🔅 Проверка и контроль — проверяет ответ другой модели перед отправкой и ищет промпт инъекции.
Всё работает на скорости от 70 (!) мс. и стоит 4,2 цента за МЛН входных токенов с БЕСПЛАТНЫМ выходом.
Забираем тут.
🙂 Не баг, а фича
Post #27932
4.89K
- 👍 10
- ❤ 5
- 🔥 3