Если что, сейчас в запрос финальному агенту попадает 40 сообщений, либо 60к контекста истории чата (не спрашивайте почему столько, и почему захардкожено. Но это есть причины, которые пока что останутся таковыми).
Короче. Зачем я вообще это пишу? Да как то мало инфы здесь в последнее время. Хочу чтобы вы знали, что мы реально работаем (Лично у меня нет слов 'у меня депрессия'. Есть только слова 'Я обещал. Значит сделаю')