Вы используете код, сгенерённый AI, для которого написали некоторое количество тестов, но в самом коде, в его архитектуре, software design, не разбираетесь, поэтому ваши тесты на самом деле карго-культ. В коде же оказываются ошибки, которые приводят например к потере банком миллиарда рублей, или к травмам или даже гибели людей в медицинских проектах.

Кто в этом виноват? Вряд ли получится привлечь к ответственности ЖПТ или использующего его программного агента.

Также нереально будет привлечь OpenAI или Anthropic, Сбер или Яндекс. Их юристы скажут, что их нейронка никогда не предназначалась для использования в серьёзных проектах без активного участия человека.

Ваш менеджер заявит, что за техническую работу платили именно вам, а роль руководства заключается только в том, чтобы руководить. А если ваш начальник ещё и не разбирается в программировании, это станет очень веским доводом для его адвоката.

И к ответственности будете привлечены именно вы.

Если пропадают крупные деньги или возникают проблемы со здоровьем людей, в абсолютно любой стране в мире прежде всего начинается поиск подходящего козла отпущения. И заканчиваются они практически всегда на самых низших ветвях организационного дерева (виноват стрелочник). И этим козлом отпущения с большой вероятностью окажетесь вы как программист. А ваш лепет, что в организации был полный бардак и хаос с рабочими процессами, никто во внимание не примет, поверьте.

Вы готовы к такому риску?