Есть три варианта оптимизации LLM:
1️⃣ Fine-tuning — дообучение готовой языковой модели на узкоспециализированных данных.
2️⃣ Промпт-инженерия — в этом случае мы составляем правильные запросы к модели, не изменяя ее, а оптимизируя ввод.
3️⃣ RAG — метод, при котором формируется поисковый запрос к базе знаний и LLM строит ответ с учетом этой информации.
Еще недавно, чтобы научить модель новым трюкам, ее обязательно «доводили» на специальных датасетах. Сегодня промпт-инжиниринг и RAG позволяют решать те же задачи быстрее и дешевле.
Так нужен ли fine-tuning в 2025 году?
Ответ на вопрос ищите в статье Владимира Килязова, эксперта по машинному обучению в Cloud․ru.
А в комментариях делитесь, что используете: RAG, fine-tuning или промпт-инжиниринг👇