ИИ-плагин для Slack и Teams и риск мониторинга эмоций работников

А теперь, как отнесение к категории запрещенных или высокорисковых по AI Act, может повлиять на ваш стартап.

Итальянский регулятор по защите данных (Garante) выпустил предупреждение для стартапа, который разработал ИИ-плагин для Slack и Teams.

👀 Сервис анализирует рабочие переписки сотрудников с помощью языковых моделей и семантического анализа, чтобы определять:
▪️ эмоциональное состояние,
▪️ уровень стресса,
▪️ и психологическое состояние работников,
которые добровольно подключались к системе для получения “персональных рекомендаций”.

С одной стороны, работодатель не видит сами сообщения сотрудников и не получает индивидуальные результаты анализа, НО регулятор увидел риски доступа работодателя к эмоциональному состоянию сотрудников даже через сводные отчеты и призвал компанию принять с самого этапа проектирования сервиса адекватные меры для предотвращения любого риска доступа, даже косвенного, к информации, касающейся эмоционального благополучия работников.

Такая информация не может быть законно получена или обработана работодателями в соответствии с:
▪️ GDPR,
▪️ AI Act,
▪️ трудовым законодательством.

Кроме этого, Garante прямо указал на риски самих языковых моделей и семантического анализа:
▪️ непрозрачность выводов,
▪️ невозможность проверить корректность результатов,
▪️ потенциальную дискриминацию работников,
▪️ и вмешательство в их права и частную жизнь.

❕Когда тестируете удобные HR-инструменты, смотрите, чтобы они не оказались для вашего бизнеса токсичными.

📌
🔹Использование ИИ в сфере подбора персонала (ЕС);
🔹ИИ для встреч (записи, саммари, заметки и черновики документов), а что с GDPR? ;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator