ИИ и защита ПД: рекомендации немецких DPA
Ч. 1
Разбор требований по защите ПД в контексте EU AI Act смотрите в предыдущих постах. Для понимания "что же хотят видеть" надзорные органы и как продемонстрировать соответствие своего продукта законодательным требованиям, необходимо обращать внимание и на рекомендательные гайдлайны.
🔍Вот один из них от DPA Германии ( июнь 2025). Применим к системам ИИ, предполагающим обработку ПД. В зависимости от этапа жизненного цикла предлагается:
1️⃣ Проектирование
🔹Полная документация (описание наборов данных, источники, система ИИ (цель, архитектура, алгоритмы), меры защиты данных).
🔹Минимизация данных:
- оцените, можно ли с помощью меньшего объема данных или альтернативных методов достичь сопоставимой производительности.
- выберите систему/алгоритмы с сопоставимой производительностью, которые используют меньше данных/ используют федеративное обучение.
- проверьте, может ли количество точек данных (потенциально: эмпирически) быть оправдано относительно целей системы ИИ.
- отдавайте предпочтение атрибутам общего характера (например, «год» вместо «день-месяц-год» в отношении даты рождения), удаляйте атрибуты, дискриминирующие/вызывающие предвзятость.
- используйте агрегированные, синтетические и анонимные данные, где это возможно.
- прежде чем собирать данные из других источников, проверьте, можно ли получить данные из существующих источников.
- если существует законодательный запрет на обработку определенных ПД, убедитесь, что такие данные не могут быть выведены из якобы нейтральных атрибутов.
- предусмотрите временной буфер между сбором необработанных данных, уведомлением субъекта данных и обучением модели, чтобы субъекты данных могли реализовать свои права в соответствии с GDPR. Предпочтение следует отдавать моделям ИИ, которые предоставляют пользователям более широкий доступ к реализации своих прав (например, моделям ИИ, обеспечивающим более быстрое повторное обучение после запроса на удаление данных).
🔹Оценивайте исходные данные на точность, качество, надёжность источника данных и наличие потенциальных смещений. Надежная проверка данных крайне важна для предотвращения уязвимостей (например, отравления данных), в том числе при использовании предварительно обученных моделей (например, для предотвращения отравления бэкдоров).
2️⃣ Разработка
🔹Подтвердите, что модель ИИ хранит или воспроизводит персональные данные только в тех случаях, когда это строго необходимо для определенной цели.
🔹Проверьте, выдает ли система ИИ непреднамеренные результаты или экстраполяции, выходящие за рамки ее определенной цели.
🔹Возможность вмешательства: в случаях, когда задействовано автоматизированное индивидуальное принятие решений (ст. 22 GDPR), системы ИИ должны включать доступные пользователю возможности для оспаривания или отмены результатов.
🔹Разработайте инфраструктуру обучения, тестирования и проверки для обеспечения надежности и минимального времени простоя.
🔹Обеспечьте целостность наборов данных для обучения, проверки и тестирования, а также целостность системы ИИ. После обучения система ИИ должна стабильно выдавать точные и надёжные результаты, соответствующие её заданной функции.
🔹Оцените риск утечки модели или несанкционированного раскрытия ПД посредством пользовательских запросов или враждебных атак, а также примите соответствующие контрмеры.
#LawAndDisorder
————
@pattern_ai