TypeSafe викотили Jev, і це прям топова штука, про яку я ще не писав але останні тижні дууууже активно тестив.
Я скормлюю їй лист, тікет чи стан агента і питання з готовими варіантами: «це заявка, рахунок чи спам?», «наскільки терміново від 1 до 5?», «агент зациклився, так чи ні?». І вона за один прохід повертає відповідь з ймовірністю. Якщо Jev каже 0.8, то в таких відповідях вона права десь у 80% випадків.
А поки Jev знімав відосики і не давав пощупати руцями Unsloth вже завіз open альтернативу Laya на 678 МБ, яка крутиться локально навіть на слабкому компі.
Мені здається, це стане дефолтним пре-роутером перед моделями (як кеш перед базою, про який вже ніхто не питає, чи він потрібен) бо після першого реліза 15 вересня її уже додають в фреймворки, і говорять ледь не всі за ким я слідкю
Post #187
391
- 🔥 12