Наконец-то удалось собрать AI-ассистента в Telegram. Использовал RAG-модель с базой знаний по продуктовым и маркетинговым исследованиям, а также реализовал сбор новостей из тематических каналов. Ассистент способен хранить и анализировать информацию, подсвечивать тренды по запросу за интересующий период.

📚 База знаний: предсказуемо, но с нюансами
С базой знаний всё относительно понятно. Ассистент предсказуемо обращается к ней за информацией. Наилучшие результаты показали документы, подготовленные через LlamaParse в формате Markdown. Бесплатного плана хватило, чтобы перевести все документы. В планах попробовать LightRAG — в отличие от обычного RAG, он дополнительно строит граф базы знаний, что должно улучшить ответы ассистента.

📰 Новости: стабильность под вопросом
С новостями всё сложнее. Получить стабильные ответы на вопросы не всегда удаётся. Ассистент плохо отвечает на вопросы, даже когда обращается к векторной базе знаний по новостям. Чаще он сообщает, что у него нет актуальных новостей в базе. Эффективным решением стало запрашивать отфильтрованные посты по тематикам в обычную базу данных за период и затем уже с помощью ассистента анализировать и выявлять тренды.

Что в планах:
Интеграция LightRAG: стоит протестировать, как построение графа базы знаний повлияет на качество ответов.

Улучшение обработки новостей: возможно, стоит пересмотреть подход к сбору и обработке новостей для повышения стабильности ответов.

Дополнительные источники данных: расширение базы знаний за счёт новых источников может улучшить общую эффективность ассистента.

Надо покумекать.