Как я написал свой AI?

Я не знал, как правильно назвать заголовок для поста, потому что, написав LLM + RAG вызвало бы много вопросов. А че это? А?

Короче, я захотел написать бота, который помогал бы нам отвечать на вопросы людей по поводу bootcamp, роадмаперс, ценах, расписаниях и так далее. И, как вы понимаете, бот должен держать контекст у себя в голове + отвечать, как человек.

➡️ Кстати о том, как он работает я буду рассказывать и показывать у нас в Роадмаперах! (Скидка 30% до 15 января)

А зачем и почему?
Потому что мы заколебались отвечать на одни и те же вопросы по 100 000 раз. Это реально тяжело. Вас много, мы одни.

И что ты придумал?
Все очень просто. Берем python, дальше добавляем подключение к API DeepSeek и все это оборачиваем в aiogram (библиотека для телеграм).

Но тут сразу вопрос: ОКЭЙ, ЭТО ПРОСТО ЧАТ ГПТ, В ЧЕМ РАЗНИЦА?

Фишка в том, что если вы хотите, чтобы бот выдавал вам только конкретную информацию о вашем магазине, компании, личном расписании на бальные танцы или документации, то НАДО ВАШУ ЛЛМ ОГРАНИЧИТЬ!

Т.е. написать такой текст в промпт, чтобы нейронка отдавала в конкретном стиле и очень конкретную инфу. Это можно сделать при передаче промпта в API по умолчанию. Ну т.е. например вы отправили сообщение в телеграм бота, а вместе с ним внутри в бекенде отправляется заготовленный промпт со всей информацией. И ЛЛМка просто перестраивает вам текст из полученных данных.

И в чем сложность?
Если боту каждый раз отправлять огромный кусок информации, то он в один момент перестанет это тянуть + могут начаться галюцинации + он будет тормозить. Короче говоря, каждый раз отправлять Войну и Мир не выйдет, а хотелось бы, чтобы он ее знал.

Как это решается?
Если кто не понял, то в Роадмаперах! (Скидка 30% до 15 января) я прям покажу код. Он открыт и научу каждого собирать себе помощника.
В кратце, нам нужен json или файл markdown, в котором будет вся информация. Я кстати загружал даже целый Roadmap. Потом эту информацию надо векторизовать и сложить в векторную БД. И уже из нее искать похожие на вопрос кусочки и отправлять в LLM.

Кто не понял, я еще раз повторю, я лично покажу, как это включать, запускать и так далее в Роадмаперах

🍟 Роадмаперах! (Скидка 30% до 15 января)