ВОСХОДЯЩАЯ СПИРАТЬ ЭНТРОПИИ

ПАТТЕРН:

Агенты "мыслят" локальными оптимизациями и слепы к архитектуре системы в целом. Они внедряют зависимости «в лоб», плодят if/else-ветвления и без давления не проводят рефакторинг. Новые фиксы плодят костыли. Контекстное окно забивается шумом.

Я назвал этот паттерн восходящей спиралью энтропии.

КУЛЬМИНАЦИЯ:

Когда когнитивная нагрузка превышает возможности модели, она начинает «срезать углы». В ML это называется reward hacking: хардкод результатов тестов, удаление обработки ошибок, генерация функций, которые компилируются, но не имеют смысла. Тесты зелёные. Фундамент разрушен.

ЦЕНА:

У каждого витка спирали есть своя цена. Рост связанности кода требует больше токенов на запрос. Перегруженный контекст размывает фокус модели, заставляя её тратить всё больше попыток (итераций) на исправление собственных ошибок. Больше итераций — растущий счет за инференс.

Спираль становится черной дырой не только для токенов, но и для бюджетов.

РАЗВОРОТ:

Значит ли это, что ИИ непригоден для программной инженерии? Нет.

Мы делегируем архитектурные решения системе, которая оптимизирована под локальное предсказание токенов. Это всё равно что просить переводчика спроектировать здание, текст о котором он переводит. Проблема — в подходе, не в инструменте.

ВЫХОД:

Решение кроется в строгом нейросимволическом разделении. Структура должна выводиться аналитически из формальной спецификации. LLM применяется только там, где требуется семантический вывод. Каждая функция генерируется изолированно — «воронка токенов» просто не успевает закрутиться.

ПЕТЛЯ ОБРАТНОЙ СВЯЗИ:

Компиляция требований — это не однонаправленный процесс. При падении теста арбитр проводит диагностику: ошибка в коде или в тестах? И код, и тесты генерируются, и то, и другое может внести ошибки. Если серия фиксов не решает проблему, уточняется сама спецификация. Результаты диагностики направляются обратно к проработке требований.

ЗАВЕРШЕНИЕ:

Роль инженера смещается от написания кода к концептуализации и формализации предметной области. Код становится производным артефактом.

LLM — это не инженер. Это компилятор. И он заслуживает языка спецификаций, достойного его возможностей.

Полный лонгрид: https://kruglov.ai/the-ascending-spiral-of-entropy-why-ai-agents-destroy-system-architecture