Иллюзия сверхразума

Допустим, модели стали сверхразумными. Контекст — бесконечный и мгновенный. Можно загрузить всю кодовую базу, и ИИ сам поймёт, что тебе нужно.

Уже сейчас есть два подхода к использованию ИИ:
- Ассистент. Ты понимаешь, что он пишет. Ревьювишь, споришь, правишь.
- Нейрослоп. Ты просто генерируешь код, не читая.

Для нейрослопера наступает рай. "Перепиши мне всё на новый стек и добавь кнопку" — и оно делает. Идеально. Быстро. Продвинутые "одноразки" станут нормой. Но ничего нового из этого не родится. Модель, обученная на коде таких же слоперов, будет плодить вариации одного и того же. А когда, например, системе понадобится аудит безопасности, нейрослопер скажет: "Ок, попросим LLM провести аудит". И модель проведёт. Вот только уязвимости, которые она ищет — это те же уязвимости, которые она же и сгенерировала. Система не может найти ошибки, которые допустила. Круг замкнулся.

Инженер будущего будет меньше писать промптов, но так же продолжит ревьювить то, что сгенерировал ИИ. Именно это даёт гибкость: понимаешь — значит контролируешь. Инженер, понимающий архитектуру, в любой момент может взять управление на себя, переписать проблемный модуль вручную или направить ИИ на доработку с ювелирной точностью. Аудит безопасности для него — не проблема. Это тот, кто способен разомкнуть замкнутый круг.

Одни останутся операторами кнопки, другие будут архитекторами сложных систем. Пропасть будет расти, отдаляя два направления друг от друга, и однажды её уже будет не перешагнуть.