При этом в самих поисках памяти дорогой колл для LLM не используется.

Временной фактчек поправлю...а есть несколько вариантов, добавить SNN, микроскопическая модель, которая при чанкинге пометит факты временной меткой, но это сложно.

Либо добавить в механизм памяти работу с перезаписываемым гипеграфом, который будет строиться также при чанкинге. Вопрос реализации конечно, легче всего для гиперграфа дёрнуть ту же LLM, она сама выстроит вершины графа, но мы же все понимаем, что на 10 миллионах токенов(это только инпут) как то жирно.

Надо думать.