Отчет Еврокомиссии о необходимости пересмотра списка запрещенных практик ИИ

Еврокомиссия опубликовала первый отчет о необходимости пересмотра списка запрещенных практик в области ИИ и систем высокого риска, перечисленных в Приложении III.

🔹Главный вывод пока осторожный, что расширять списки пока нет необходимости, т.к. большинство положений AI Act ещё даже не успели полноценно заработать.
🔹Но, естественно, прямо указывали на возможный пробел в AI Act в отношении ИИ-систем для создания материалов сексуального насилия над детьми (CSAM), неконсенсуальных интимных изображений и дипфейков, а также соответствующих ИИ- инструментов.
Комиссия фактически признаёт, что текущая редакция статьи 5 AI Act может не охватывать такие системы напрямую, поскольку они не всегда “манипулируют” поведением жертвы в том смысле, как это сейчас сформулировано в законе. И если платформы не справятся с саморегулированием, то ограничения в будущем могут быть перенесены из разряда обеспечения «прозрачности» в разряд «полного запрета».
🔹Если системы ИИ внедряются таким образом, что способствует мошенничеству, эта практика может считаться запрещённой в соответствии с AI Act, если система нацелена на уязвимых людей с целью вымогательства.
🔹Также пристальное наблюдение будет за развитием ИИ-агентов и квалификации нарушений по ст.5 AI Act (манипулирование поведением), кроме этого зоной повышенного внимания будут ИИ-компаньоны и чат-боты “эмоциональной поддержки”, распознавание эмоций в чувствительных контекстах, системы, используемые для распространения политической дезинформации, системы, внедренные государством для предоставления пособий/социальной помощи.
🔹Комиссия призывает ускорить формализацию стандартов организациями CEN/CENELEC в области систем управления рисками, качества данных, кибербезопасности и алгоритмической прозрачности для обеспечения правовой определенности разработчиков. И подчеркивает, что вместо придумывания новых ограничений в 2026 фокус должен быть на выпуске четких руководств (Guidelines).

❕ЕС пока не хочет вносить изменения, но становится очевидно, что регулирование ИИ будет смещаться от принципов к запретам, от добровольных практик к обязательствам и к полноценной ответственности разработчиков и платформ.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator