О RAG и Fine-tuning

Вчера обсуждали типичный вопрос: Зачем вообще fine-tuning, если можно обойтись RAG?

Оба подхода используют дополнительные данные для улучшения качечтва модели, но делают это по-разному.

Fine-tuning настраивает веса LLM под конкретные задачи и домены, что важно, когда есть долгосрочное понимание наличие стабильного контекста, который не будет сильно меняться в долгосрочной перспективе.

RAG (Retrieval-Augmented Generation) подключает актуальную информацию в момент запроса, решая задачи, где важны актуальные и данные.

Fine-tuning выгодно также использовать если нужно уйти от больших LLM из-за их дороговизны. Маленькая модель, настроенная под вашу задачу, может снизить затраты десятки раз.

Мой ход мысли и роадмэп для тех, кто начинает с GenAI:

1) Можно протестировать use case на небольшой LLM поработав над качеством ароматов

2) Добавить RAG — чтобы “приземлить” модель на ваши данные для повышения точности.

3) Для контекста, который не будет сильно меняться со временем можно сделать fine-tuning и комбинировать подходы, чтобы оптимизировать производительность и стоимость.

Самый базовый use case - чат-бот для поддержки клиентов может использовать RAG, чтобы добавлять актуальные данные и выдавать персонализированные ответы и учитывать текущий контекст диалогов.

Max Votek - Мысли вслух. Канал о предпринимательстве, AI и инвестициях 🔠🔠