Обновлены рекомендации EDPS по генеративному ИИ

Европейский надзорный орган по защите данных (EDPS) опубликовал обновлённые ориентиры по тому, как учреждения, органы и агентства ЕС (EUIs) должны обеспечивать соответствие требованиям защиты данных при использовании генеративных систем ИИ.

Посмотрим некоторые положения, а лучше прочитайте гайд.

🔹 Уточненные роли и обязанности , помогающие EUI определить, действуют ли они в качестве контролеров, совместных контролеров или обработчиков;
🔹 Подробные консультации по правовым основам, ограничению целей и обработке прав субъектов данных в контексте генеративного ИИ.
🔹Web scraping не запрещён сам по себе, но будет сложно обосновать законное основание для такой обработки.
🔹 DPO должны понимать весь жизненный цикл генеративной модели и проявлять независимость при консультировании по применению Регламента.
🔹 Удаление отдельной записи из обучающего набора данных, как правило, не повлияет на качество модели, но может быть технически сложно.
🔹 Нужно внедрять меры, учитывающие уязвимости генеративных моделей (атаки инверсии, prompt injection, jailbreak) и обеспечивать их постоянный мониторинг.

Что взять бизнесу на заметку:
▪️Использовать рекомендации как “эталон GDPR-комплаенса”, выстраивать процедуры реагирования на запросы об удалении данных, формировать внутреннюю политику “AI Governance”, пересматривать DPIA, обосновывать использование данных при web scraping, что важно для обучения моделей.
▪️ проверять модели на утечки данных, настраивать мониторинг атак, привлекать DPO к процессу проектирования и внедрения ИИ.

Даже если вы не являетесь организацией ЕС, эти рекомендации EDPS можно использовать как фреймворк для законного и безопасного внедрения генеративного ИИ.
#LawAndDisorder
————
@pattern_ai