Регуляторный подход к Emotion AI и как продукту соблюсти комплаенс

Emotion AI (Amazon Emotion Rekognition, Face++,iMotions, Kairos) способен интерпретировать человеческие эмоции по выражению лица, интонации, движениям. Активно внедряется во многие сферы: развлечения (зеркало эмоций в Children’s Museum of Pittsburgh, игра Nevermind), здоровье (Sonar,Soniphi), образование, рекрутинг, маркетинг и т.д.
Emotion AI опирается на огромные объемы данных:
- текстовые данные (сообщения в социальных сетях и эмодзи);
- визуальные данные (изображения и видео, включая выражения лица, язык тела и движения глаз);
- аудиоданные (записи голоса, включая тон, высоту голоса и темп);
- физиологические данные/биометрические данные (например, частота сердечных сокращений) и активность мозга через носимые устройства.
- поведенческие данные (жесты и движения тела).

Рассмотрим три юрисдикции.
По EU AI Act Emotion Recognition System - 1) система ИИ, предназначенная 2) для идентификации или выявления 3) эмоций или намерений физических лиц на основе 4) их биометрических данных. Запрет на использование Emotion AI в сфере труда и образования,за исключением медицинских целей или соображений безопасности (например, мониторинг усталости пилота) (art.5(1,f), art. 3(39), Rec.18, 44, Amend. 52). Исключения: ограниченное использование для внутреннего обучения сотрудников, если результаты не передаются в HR отдел/систему и не влияют на найм сотрудников, их карьеру (Guidelines+EPIC comments+ моя мини-статья здесь). Также не попал под запрет анализ эмоций из небиометрических источников (н-р, текстовый анализ). Emotion AI может быть отнесен к высокорисковой категории (Annex 3). Не забываем также про требования GDPR (статья про обзор мнений)+ePrivacy Directive+Unfair Commercial Practices Directive.
Великобритания: гайд от ICO

В США регуляторы FTC, EEOC и DOL устанавливают ограничения, запрет на несправедливые или обманные действия или практики, в сфере труда (ADA) и здравоохранения отнесение к категории высокого риска (+HIPAA), cтандарты (AI RMF), требования COPPA (защита детей), запрет на использование в школах. На уровне штатов - законы о перс.данных ( CCPRA, Illinois’ Biometric Information Privacy Act (BIPA и т.д), трудовое (NYC Local Law 144),

В Китае Emotion AI подпадает по действие: Закона о защите персональной информации (PIPL) - эмоции, выражения лица и голос считаются чувствительной информацией - согласие, оценка воздействия; Measures for the Application of Facial Recognition Technology; Закона о безопасности данных (DSL), если касается сфер госуслуг, финансов, здравоохранения - спец. процедуры. Также смотрим требования the Management of Algorithmic Recommendations, Deep Synthesis Regulation.

Для продуктов с Emotion AI:
- определите локализацию вашего продукта. Ведите матрицу соответствия законодательству.
- внедряйте Privacy by Design и by Default.
Требования к обработке ПД, минимизации (собирайте только то, что необходимо (например, уровень возбуждения/настроения, а не полное изображение лица).По возможности используйте обработку данных на устройстве, чтобы снизить риски.
- будьте аккуратны с выбором правовых оснований для сбора и обработки данных. Обеспечивайте явное, отдельное согласие при сборе или анализе эмоций.
- не забывайте про проведение оценки воздействия;
- требования ведения документации;
- требования прозрачности (информируйте пользователей простым языком, что данные эмоций анализируются, какие сигналы используются (например, камера, голос),анализ в реальном времени или постфактум);
- предусмотрите возможность отказа, если это требуется в соответствии с законодательством;
- взаимодействуйте со специалистами и регуляторами, чтобы обеспечить комплаенс продукта;
- оценивайте этические и репутационные риски.
Анализ рынка и source картинки. Отдельно примерный чек-лист по проверке.
@pattern_ai
#LawAndDisorder #ииправо