Как я научил агентов улучшать самих себя
Ранее я писал пост про концепцию второго мозга (памяти) и как эта штука работает в моей агентной системе.

За полгода работы с системой я в полном восторге – помогает "держать" контекст, генерирует любые отчеты / саммари / ответы на управленческие вопросы. Этот эксперимент успешный, развиваю систему дальше.

Проблема системы в том, что в ней не хватало проактивности – процесса, который перечитывает накопленное, замечает противоречия, забывает устаревшее, формулирует вопросы и меняет собственное поведение по результату, общаясь со мной. Это плодит аномалии и неточности, которые я обычно вычищал раз в 2-4 недели, но это не очень. В общем, в системе нет органа, который смотрит на неё саму.

__Сформулировал серию правил и заложил их в код, промпты, рекуррентные задачи в системе (важно – это только принципы, каждый из них содержит много нюансов в плане разработки, отладки и логики):

1. Логгирование действий и система контрактов
Теперь каждое действие в системе маркируется: триггер, входные данные, выходной результат, качество. Результаты по задачам смотрит агент-валидатор (максимальная модель), сверяет результат с контрактом и имеет право не выпустить его наружу, отправить на переделку.

2. Когнитивные ритуалы
• Ночная консолидация – агенты перечитывают дельту дня и сворачивают её в несколько строк: что нового узнал, что из этого противоречит тому, что я «знал»вчера, какой паттерн виден за месяц.
• Еженедельный детектор противоречий.
• Ежемесячное забывание – всё, что не подтверждалось N недель, помечается протухшим и уходит в архив, либо всплывает вопросом. Без забывания память растёт, контекст замусоривается, а точность падает: чем больше система помнит, тем хуже отвечает.
• Сегодняшние дела – единственный ритуал, который смотрит вперёд, а не назад. Не сводка вчерашнего, а подготовка к сегодняшнему: «в 15:00 встреча с X, за ним три незакрытых поручения с прошлой, вот они», «дедлайн послезавтра, материалов в вольте нет».
• Пятничная рефлексия – система смотрит на саму себя: что сделала за неделю, что из этого я открыл, что упало, о чём спросила и что по итогам изменила в себе.

3. Регулярное общение и вопросы владельцу (мне)
Система задает мне по 3-5 вопроса в день на тему найденных проблем. Это может быть ошибка в коде, противоречивый факт, etc. Я отвечаю – система дорабатывает себя, маркдаун-вольт, граф. Это позволяет не накапливаться тех.долгу и галлюцинациям в памяти.

4. Обучение на отклике.
Каждое действие получает исход: поручение закрыто или протухло, отчёт открыт или проигнорирован, вопрос получил ответ или нет, правка была косметической или содержательной. Система агрегирует исходы и получает право менять собственный портфель – отключать то, что не читают, откладывать неважное при исчерпании лимитов подписки, выводить новое правило из повторяющегося исправления.

Итог: система стала сильно качественнее "думать" и появилось ощущение "присутствия" агентов в ежедневных делах – они начали рефлексировать свои задачи, проактивно мне что-то писать, уточнять проблемы и расхождения, самостоятельно чистить лишнее. Стало сильно меньше галлюцинаций и засорения контекста.

Мне отдельно нравится, что она "спонтанно" начала общаться со мной (понятно, что спонтанность эта регламентирована задачами в кроне, но всеже ощущение есть). Как Jarvis у Тони Старка.

PARSHIN