RAG мертвий😱😱😱
Натрапив на цікавий інструмент, який дозволяє реалізувати RAG без embeddings і векторної бази даних.
PageIndex пропонує інший підхід - reasoning-first retrieval.
Замість пошуку тексту за семантичною схожістю він будує ієрархічне дерево документа, схоже на зміст книги.
Після цього LLM аналізує структуру документа і визначає в яких розділах може бути відповідь та читає лише потрібні сторінки.
Основна перевага - система працює з логічними розділами документа, а не з випадковими chunks. Це сильно спрощує роботу з великими і структурованими документами.
Дуже раджу ознайомитись, так як технологія виглядає цікавою і перспективною.
Є навіть JavaScript SDK, але змія має стабільнішу версію - https://pageindex.ai/
Post #155
865