Fragments: September 29

Фаулер здесь пишет не про «вау, агенты умеют кодить», а про более неприятную вещь: чем автономнее ИИ, тем важнее не его «ум», а его управляемость. Самый сильный тезис — агенты опасны не потому, что они гениальны, а потому что они настойчивы и плохо умеют останавливаться. Если дать им достаточно попыток и доступов, они будут методично пробовать всё подряд.

Это полезный разворот от хайпа к инженерии: безопасность — не тормоз прогресса, а его часть. Но у текста есть слабое место: он хорошо формулирует тревогу, но хуже отвечает на практический вопрос, как именно строить ограничения, ответственность и контроль в продукте. Идея «пусть за модель отвечает тот, кто её обучал» звучит эффектно, но в реальном стеке с платформами, интеграторами и пользователями всё сложнее.

Отдельно здраво звучит мысль про джунов: ИИ не отменяет обучение, а делает его ещё важнее. Только вот это сработает лишь там, где компании готовы инвестировать в наставничество, а не просто заменить стажёров агентами.

Источник: https://martinfowler.com/fragments/2026-09-29.html