🇫🇷 Франция
После официального обращения депутатов и сообщений трёх министров Франции, которые квалифицировали контент как «явно незаконный» и передали материалы в прокуратуру и на государственную платформу онлайн-мониторинга Pharos, французская прокуратура расширила уже идущее расследование в отношении платформы X, включив в него распространение несогласованных откровенно сексуальных дипфейков, созданных с помощью Grok.
По данным прокуратуры были сгенерированы тысячи изображений, на которых женщины и подростки «раздевались» с помощью ИИ,
без согласия изображённых лиц.
Речь идёт уже не о модерации контента, а о посягательстве на достоинство личности, за которое по французскому праву предусматривается уголовная ответственность:
- до 2 лет лишения свободы и штрафом до €60 000.
🇮🇹 Италия
Итальянское управление по защите данных выпустило предупреждение пользователям сервисов, основанных на ИИ, таких как Grok, ChatGPT и Clothoff ( была заблокирована еще в октябре прошлого года), а также других подобных онлайн-сервисов, позволяющих пользователям создавать и распространять контент на основе реальных изображений или голосов, даже «раздевая» людей без их согласия.
Поставщикам таких услуг НЕОБХОДИМО проектировать, разрабатывать и предоставлять приложения и платформы таким образом, чтобы пользователи могли использовать их в соответствии с правилами защиты персональных данных (пресс-релиз).
🇬🇧Великобритания
Министр технологий Лиз Кендалл назвала контент, создаваемый Grok, «абсолютно ужасающим», особенно в части сексуализации женщин и возможного вовлечения детей и озвучила главное:
🔹Online Safety Act предоставляет полномочия блокировать доступ к онлайн-сервисам, если они отказываются соблюдать британское законодательство.
🔹 В парламенте рассматривается законопроект о борьбе с преступностью и охране общественного порядка, предусматривающий запрет приложений для «цифрового раздевания».
🔹Планируется введение в действие норм, криминализирующих создание интимных изображений без согласия, а также усиление требований к платформам по выполнению рекомендаций Ofcom в сфере противодействия насилию в отношении женщин и девочек (VAWG). Срок- ближайшие недели.
Регулятор Ofcom вступил в срочный контакт с X и потребовал объяснить, как Grok допустил такую генерацию и как это соотносится с обязанностями платформы по Online Safety Act. Для Ofcom принципиален не статус Grok как ИИ-модели, а то, что он является частью сервиса X и создаёт предсказуемые риски вреда, которые платформа обязана выявлять и предотвращать.
Параллельно парламентские комитеты запросили у Ofcom разъяснения, какие меры принуждения могут быть применены, если платформа не докажет, что она эффективно снижает риски, связанные с ИИ-функциями.
🇮🇳 Индия
Министерство электроники и ИТ (MeitY) направило официальное уведомление X Corp, указав на нарушение обязательств в соответствии с IT Act и IT Rules, распространение непристойного и порнографического контента через Grok (полный текст здесь).
Власти потребовали немедленно прекратить генерацию такого контента, представить в течение 72 часов подробный отчет с перечнем принятых мер , объяснить, какие технические и организационные меры внедрены.
MeitY прямо напомнило, что невыполнение требований может привести к утрате платформой иммунитета от ответственности как посредника.
📱 А что насчет реакции X?
X ограничил функции генерации изображений Grok только для платных подписчиков и опубликовал предупреждение в аккаунте Safety, пообещав сотрудничать с правоохранительными органами. Илон Маск заявил, что пользователи, создающие незаконный контент, «понесут те же последствия, что и при его загрузке».
🔴 Последствия, которые стоит взять всем на заметку:
▪️функционал может быть принудительно отключен на уровне всего региона по решению суда.
▪️руководство платформы может стать фигурантом уголовных дел о харассменте и пособничестве в создании незаконного контента.
▪️бремя доказывания перекладывается на платформу.
И следим дальше за кейсом...
#UXWatch #LawAndDisorder
————
@pattern_ai