Новые тенденции в создании продуктов GenAI

По мере того, как мы перемещаем программные продукты, использующие технологию генеративного ИИ, из проверки концепций в производственные системы, мы обнаруживаем ряд общих шаблонов. Оценки играют центральную роль в обеспечении того, чтобы эти недетерминированные системы работали в разумных границах. Большие языковые модели нуждаются в улучшении, чтобы предоставлять информацию за пределами общего и статического обучающего набора. В большинстве случаев мы можем сделать это с помощью Retrieval Augmented Generation (RAG), хотя базовый подход RAG требует нескольких шаблонов для преодоления своих ограничений. Когда RAG недостаточно, становится полезной тонкая настройка.

https://martinfowler.com/articles/gen-ai-patterns