61 орган по защите данных выпустили совместное предупреждение о росте вреда от ИИ дипфейк-контента.
Главные опасения регуляторов:
▪️ распространение интимных и унижающих дипфейков;
▪️ атаки на детей и уязвимые группы;
▪️кибербуллинг и эксплуатация через соцсети;
▪️глобальный характер проблемы — контент создаётся в одной стране, вред возникает в другой.
Ключевой сигнал бизнесу:
"Компании, разрабатывающим и использующие системы генерации контента на основе ИИ, должны разрабатывать и использовать ИИ системы в соответствии с применимыми правовыми фреймворками, включая правила защиты данных и конфиденциальности.
Создание интимных изображений без согласия может представлять собой
уголовное преступление во многих юрисдикциях.
Регуляторы ожидают от компаний не реактивных мер по удалению контента, а превентивного комплаенса:
🔹Надежные меры защиты для предотвращения неправомерного использования личной информации и генерации интимных изображений и других вредных материалов без согласия,
особенно если на них изображены дети.
🔹 Обеспечение достоверной информации и прозрачности в отношении возможностей систем ИИ, мер защиты, допустимых видов использования и последствий неправомерного использования.
🔹Предоставление эффективных и доступных механизмов для запроса удаления вредного контента, содержащего личную информацию, и оперативное реагирование на такие запросы.
🔹 Устранение конкретных рисков для детей: внедрение усиленных мер защиты и предоставление четкой, соответствующей возрасту информации детям, родителям, опекунам и педагогам.
❕Риски, связанные с дипфейками, выходят за рамки модерации контента и становятся частью требований privacy by design и AI-governance. Регуляторы четко заявили, что ими будут приниматься скоординированные меры, если вред, возникает в результате генерации интимного, клеветнического или иного вредного контента.
#LawAndDisorder #UXWatch
————
@pattern_ai