🤖 Карпаті набридло RAG — він зробив свою систему на Markdown-файлах
Андрій Карпаті (Tesla AI, співзасновник OpenAI) показав архітектуру LLM Knowledge Base — персональну базу знань, де LLM працює не як пошуковик, а як автор і редактор.
Суть: замість класичного RAG з векторними базами, чанкінгом і ембедінгами — звичайні .md файли. LLM читає сирі джерела з папки raw/, компілює їх у структуровану вікі з індексами, бекленками і концептуальними статтями. Потім сам же її «лінтить» — шукає неконсистентності, дописує зв'язки, оновлює інфу.
Стек мінімальний: Obsidian як інтерфейс, Obsidian Web Clipper для збору матеріалів, кастомні CLI-скрипти для зв'язки LLM з файловою системою. Ніяких векторних БД.
Масштаб: ~100 статей, ~400K слів. На цьому рівні контекстне вікно LLM покриває все без retrieval. Карпаті чесно каже — на мільйони слів це не масштабується, і RAG знову стає потрібним.
Головна фішка: кожен факт можна простежити до конкретного .md файлу. Ніяких чорних скриньок ембедінгів. Людина може прочитати, відредагувати або видалити будь-що.
https://venturebeat.com/data/karpathy-shares-llm-knowledge-base-architecture-that-bypasses-rag-with-an
📎 Читайте також:
→ Moss — Markdown-нотатки з AI-агентами
→ Flowershow — Markdown як сайт через Obsidian
→ Google Books + NotebookLM для AI-бази знань
Post #2662
459