Кстати, свой агент я использую довольно примитивно

Очень часто бывает так: нахожу интересную инфу, откладываю «на потом», а в итоге она теряется и забывается. Поэтому я выделил агента, который сортирует все отправленные ему источники: посты из X, Telegram, любые сайты и т.д.

Я просто скидываю ему ссылку — он переходит по ней, обрабатывает текст и сохраняет его в виде чанков. Позже в любой момент я могу написать агенту примерный вопрос своими словами, и он найдет именно то, что я имел ввиду.

Его память работает на векторной базе данных LanceDB, оптимизированная для AI/ML-приложений. Она написана на Rust, а данные сохраняются на SSD-диск в специальном колоночном формате .lance. База мультимодальная (поддерживает разные типы контента) и очень быстрая за счет умных алгоритмов индексации. При этом нагрузка на RAM минимальная. Для моих объемов данных и как инструмент для личной базы знаний — это идеальный выбор.

На самом деле, подобные системы можно строить где угодно. Например, недавно видел, как человек с медицинским образованием сделал такую RAG-систему для своих клиентов.

Буду и дальше исследовать эти инструменты и расширять области применения. Помимо текущего проекта, такой подход идеально подойдет, например, для составления и трекинга личных тренировок в зале