AI-Центр Т-Банка выложил в открытый доступ собственную русскоязычную LLM размером 7-8b параметров, которая показывает себя очень сильно на русской Арене и других бенчмарках, обходя GPT-3.5 и llama8.
Вчера потестил немного и я пока в восторге. Это небо и земля по сравнению с англоязычными llama и phi. И при этом все это добро спокойно работает на моей gtx 3060 12GB.
Кажется, день когда ЛЛМка будет смотреть договоры вместо меня все ближе и ближе)
В ближайшее время хочу прикрутить RAG к этой модели и потестить основательно. С результатами вернусь, а пока можете орнуть с текста лицензии на модель))