Что говорит закон про регулирование темных паттернов и как избежать миллионных штрафов?

По данным исследований (FTC+ICPEN, European Commission’s 2022 study) 75% сайтов и приложений используют как минимум один темный паттерн, а 68% - два и более.
Cтраны активно разрабатывают и внедряют законодательные и регуляторные меры для борьбы с тёмными паттернами и манипулятивными практиками с использованием ИИ (OECD report, обзор регулирования здесь). Основное внимание уделяется обеспечению прозрачности, получению явного согласия пользователей и предотвращению манипуляций, особенно в отношении уязвимых групп населения.

В США главный игрок это FTC, запустившая в 2024 г. инициативу Operation AI Comply против компаний, использующих ИИ обманным способом. Примеры кейсов:
▪️ Сервис DoNotPay» - первый «робот- юрист», который должен был генерировать юридические документы в кратчайшие сроки и подавать иски, оштрафован на $193,000 за ложные заявления.
▪️ Rytr — ИИ-сервис генерации фейковых отзывов - прекращение работы сервиса.
▪️Ascend Ecom — обман потребителей, обещали значительный доход через создание интернет-магазинов на базе ИИ – приостановка сервиса, ждет рассмотрения в суде.
▪️NGL Labs - утверждала, что использует ИИ для модерации в анонимном приложении для обмена сообщениями, которое она незаконно рекламировала детям;
▪️Rite Aid - использовала технологию распознавания лиц на основе ИИ в своих магазинах без разумных мер безопасности;
▪️CRI Genetics - обманывала пользователей относительно точности своих отчетов о ДНК, в том числе заявляя, что использовала алгоритм ИИ для проведения генетического сопоставления.
Бюро по защите прав потребителей в сфере финансов (CFPB) выявляет темные паттерны в сфере цифровых финансовых услуг.
На уровне штатов - California Consumer Privacy Act, Colorado Privacy Act, Connecticut Data Privacy Act и т.д.

В ЕС принято уже не менее 13 нормативных актов, регулирующих dark patterns:
Закон об ИИ (AI Act) — запрещает поведенческие манипуляции, особенно в отношении уязвимых групп;
DSA (Закон о цифровых услугах) — запрет на использование deceptive practice в интерфейсах платформ;
GDPR — запрещает скрытые согласия, требует явного подтверждения (ст. 4(11), 7);
Директива о правах потребителей — запрещены предустановленные галочки (ст. 22);
UCPD (Директива о недобросовестной коммерческой практике) — регулирует обман и агрессивные практики;
Data Act - запрещает недобросовестную практику доступа к данным и вводящие в заблуждение механизмы согласия, которые подталкивают пользователей к ненужному обмену данными (rec. 38)
+ ряд других: о безопасности продуктов, защите детей, цифровой конкуренции и пр.
Примеры последних кейсов : Amazon (Польша) оштрафован $8 млн за манипуляции в интерфейсе, которые вводили в заблуждение покупателей. Иски против Meta AI Training (признана в России экстремистской и запрещена), доп.кейсы здесь.

Китай внедрил правила, запрещающие использование алгоритмов для дискриминации в ценах, результатах поиска и рекомендациях контента.

Если кратко суммировать, то мы видим, что нет единого законодательства по тёмным паттернам ИИ, множество решений принимается постфактум, после массовых жалоб, ИИ-генерация контента часто ускользает от классических определений мошенничества, отсутствуют единые стандарты оценки UX-паттернов, использующих ИИ.

Рекомендации бизнесу:
- проводите аудит интерфейсов и ИИ-моделей;
- устраняйте манипулятивные сценарии;
- следуйте принципам прозрачности и ответственности. Внедрите внутренние политики оценки ИИ-сервисов;
- отслеживайте требования и разъяснения регуляторов и проверяйте на соответствие свои продукты.

Рекомендации пользователям:
- обращайте внимание на уловки в интерфейсах. Следите за тем, легко ли отказаться от сервиса или подписки.
- проверяйте источник информации — это реальный человек или ИИ;
- не спешите с действиями при навязчивых уведомлениях;
- используйте инструменты контроля трекинга;
- сообщайте о подозрительных интерфейсах в регуляторные органы, и, главное,
- ЧИТАЙТЕ МЕЛКИЙ ШРИФТ!
#LawAndDisorder