Крайне любопытно наблюдать, как у машин проявляются те же слабости, что и у людей.
В последнее время я всё чаще провожу рабочее и досужее время с код-агентами. Это большие языковые модели, помещённые в такую обвязку, где у них появляются «глаза» и «руки» на компьютере. Как только у модели возникает возможность не только отвечать, но и действовать, довольно быстро проступают знакомые шаблоны.
В одной из сессий агент вольно обошёлся с форматом одной из наших карт. Кажется, это была Карта гипотез. Я спросил его, как так получилось. Ответ был вполне человеческий: быстро посмотрел на структуру, решил, что этого достаточно, и пошёл работать.
С людьми такое происходит постоянно. Кто-то мельком смотрит на Карту процесса-опыта или на Карту гипотез, узнаёт что-то внешне знакомое, достраивает остальное в голове и начинает действовать так, будто уже разобрался. Не вчитался в методику, не проверил ограничения, не понял, где именно проходит дисциплина метода.
Хорошо, что агент не обижается и не сопротивляется. На его «я не прочитал скилл и сделал карту так, как понял структуру из беглого просмотра» можно ответить не воспитательной беседой, а исправлением среды. Дочитал инструкцию, переделал как следует, получил более жёсткое правило на будущее.
Машина в свободном полёте быстро скатывается к поведению, что мы наблюдаем у людей: самоуверенность и леность. В работе с агентами быстро становится видно качество организации мышления в команде.
Если вокруг агента не спроектирован контур работы, он начинает вести себя как быстрый и самоуверенный новичок. Должно быть ясно. Где лежит инструкция? Когда её надо читать целиком, а не по диагонали? Что считается допустимым упрощением, а что уже искажает метод? Как устроена проверка результата? Как типовая ошибка не просто исправляется один раз, а исключается в будущем. Вот где на самом деле находится управление.
Поэтому мне всё меньше интересно обсуждать, хорошо или плохо модель «умеет». Куда интереснее, умеет ли команда строить для неё рабочую среду. Потому что именно там сегодня появляется разница между случайной удачей и воспроизводимым результатом.
С код-агентами в этом смысле даже проще, чем с людьми. Они не обидятся, не пропадут, надув губки. Они не спорят из принципа, не защищают своё первое решение и не устают от повторений. Если среда работы спроектирована хорошо, поведение довольно быстро выправляется.
Мне кажется, это и есть одна из содержательных тем ИИ-трансформации продуктовых команд. Не раздать всем по агенту, а научиться проектировать агентную работу так, чтобы она была управляемой.