Projects & Teams Manager Тимур Хащеватский много экспериментирует с LLM. Он сравнил дорогие и дешёвые, большие и маленькие модели — и попытался понять, для каких задач действительно нужен AI за тысячи долларов.
Малые модели могут быть вполне ок для простых задач. Самые очевидные примеры — распознавание речи или создание embeddings для RAG. Я как раз на этой неделе делал это для одной задачи на писишке даже без GPU. Но для кодирования они не годятся.
Подробнее
Эта ссылка откроется в Беларуси