ИИ написал код. Кто-нибудь его читал?

Один агент пишет, другой проверяет, задачи выполняются. На схеме всё выглядит убедительно. Но кто в итоге решает, что результат годится, — и по каким критериям?

Иван Иванов, генеральный директор компании-разработчика ПО «Апрель Инновации», обращает внимание на неудобную сторону автоматизации: ИИ способен сгенерировать больше кода, чем человек успевает прочитать. Если принимать результат по принципу «вроде работает», легко получить «чёрный ящик», за который непонятно кто отвечает.

Вопрос здесь шире отдельных ошибок нейросети: как сохранить контроль над разработкой, когда агенты контролируют друг друга, а человек видит только итог?

В финале Иван доводит идею полной автоматизации до ироничной кнопки «даёшь бабло»: агенты сами находят нишу, придумывают продукт и создают его. Заманчивая перспектива — с открытым вопросом об ответственности.

▶️ Смотреть полную дискуссию

Вы доверили бы выпуск кода ИИ-агентам, если его проверяют тоже ИИ-агенты?