Hindsight – интересный проект, показывающий, как можно организовать память для AI-агента.

Проект Open Source. Ставится из официального репозитория в docker.

Всё, что требуется от пользователя – заполнить API Key для OpenAI (или другого провайдера). Как альтернатива – можно поднять Hindsight на локальных моделях.

Её (память) разделили на 4 типа:

1. Факты о мире, которые формируются на основании загруженных пользователем документов.

2. Опыт агента. Факты, которые агент знает о себе. То, что делал он сам. Давал рекомендации, совершал действия и т.д.

3. Мнения. Это суждения и взгляды агента на окружающий мир. Здесь у каждого мнения может быть показатель уверенности от 0 до 1. Чем ниже значение, тем выше вероятность, что AI-агент подвергнет конкретное суждение пересмотру.

4. Наблюдения. Сводки о сущностях, которые система формирует в фоновом режиме.

При этом опыт, мнения и наблюдения формируются в процессе взаимодействия с пользователем. То есть мы имеем обучающуюся и развивающуюся систему, которая изменяется при взаимодействии с пользователем.

В любой момент можно посмотреть, в результате чего сформировался опыт или мнение агента.

Модель достаточно быстро формирует записи в графе. 1000+ "воспоминаний" загрузились буквально за пару минут. Что достаточно быстро для темпорального графа.

С другой стороны, извлечение информации AI-агентом из системы мне показалось медленным. Но это то, что мы имеем из коробки. Я планирую к API Hindsight подключить собственную систему AI-агентов и посмотреть, насколько эффективным будет работа с такой системой памяти.

Если хотите глубже изучить теоретическую базу, которая лежит в основе Hindsight, статья на arxiv в помощь.