Мы все понимаем что у классического RAG-подхода есть много недостатков. Поэтому появился KAG - Knowledge-Augmented Generation.
KAG пытается работать со смыслами в тексте, а не с чанками, формирует графы знаний, связи между этими знаниями, строин онтологию текста.
Технически это выглядит так:
- граф знаний (сущности, взаимосвязи, правила);
- multi-hop reasoning (аля многошаговое рассуждения);
- движок для запросов и объяснений.
1. Граф обеспечивает сущности, отношения и правила, на которых можно выполнять многошаговые выводы.
2. LLM формирует запрос к графу, получает связанный контекст и использует его как структурную память.
3. На основе этой памяти модель строит рассуждение, которое можно проверить, объяснить и повторить.
Китайский опен-сорс для построения KAG-а.
https://github.com/OpenSPG/openspg