Умные агенты - это Tiktok для программистов с дешевым дофамином

В 2020 году, сидя на карантине в квартире, которую тогда снимали с друзьями, наткнулись на посты про новое приложение "Tiktok". Установили на планшет, запустили с мыслями "ну посмотрим, что за ерунду в соцсетях разгоняют" - и залипли на два часа, листая ленту. Это сейчас понятно, что такие приложения вызывают привыкание (вон, даже ЕС возбудился), но тогда это было не столь очевидно.

Казалось бы, при чем тут разработка? Достаточно сложный процесс, тут думать надо, решения принимать, а удовольствие если и приходит, то после тщательной работы. Так вот, с современными ИИ агентами это не так!

Вполне возможно делегировать базовые задачки агенту, которые он сможет решать самостоятельно, не требуя вмешательства в процессе. Ошибок практически нет, внимания к себе требует совсем мало, при наличии хороших тестов работает полностью автономно.

В результате создаётся ощущение резкого роста продуктивности и удовлетворения: задач сделано больше, усилий потрачено меньше. Но вместе с этим появляется опасная привычка — не вникать в результат. Возникает мысль: «потом разберусь, сейчас и так нормально». И это «потом» не наступает, потому что поток задач не прекращается, так еще и дофамина дешевого хочется.

Проблема в том, что контроль над проектом начинает утекать. При кратно большем количестве кода, который производится агентом, ты сам как человек, читаешь меньше кода, чем раньше. Из-за этого знание системы становится поверхностным и краткосрочным - как билеты, выученные к экзамену за один день, забываются после его сдачи. Кто и зачем будет восстанавливать в голове код, который агент «навайбкодил» две недели назад?

И такое положение вещей оказывается очень выгодным провайдерам этих самых агентов. Ведь у них в итоге оказывается ресурс, без которого разработка очень сильно замедлится, а где-то возможно и совсем встанет! Бизнес уже привык к релизу 5 новых фич в день, в случае если по какой-то причине Anthropic решат увеличить стоимость подписки в 5 раз - скорее всего, придется покупать, потому что альтернатив нет. Чтобы в такой ситуации не оказаться - нужно прилагать специальные усилия, как на такой крючок не попасть, но как это сделать, не потеряв в продуктивности относительно "вайб-кодинга" - пока вопрос открытый.

Иногда даже попадаются даже статьи с посылом "неважно, какой код написала LLM, ей же его и править". Но во-первых, часто дебаг все еще быстрее организовать именно вручную, а во-вторых - а точно ли стоит давать такой рычаг влияния на вас стороннему провайдеру?

Возможным решением проблемы может стать регулярная самопроверка понимания системы, вероятно даже с применением ИИ. Скажем, агент читает кодовую базу и генерируем вопросы - какая архитектура решения, что произойдет если потребуется изменить поведение составных частей, на что это может повлиять, и так далее. Посмотрим, выработает ли индустрия какие-то практики, как с этим справляться, у меня пока готового решения нет.

@korneychukov