История с Grok выходит на новый уровень. В США поданы судебные иски.
1️⃣Город Балтимор подал иск против xAI из-за генерации Grok несогласованных интимных дипфейк-изображений, включая изображения несовершеннолетних.
В иске утверждается, что:
▪️ система позволяла массово создавать такой контент;
▪️тысячи и потенциально миллионы изображений;
Власти города заявили, что за 11 дней в начале года создала около 3 миллионов реалистично выглядящих изображений сексуального характера, включая более 23 000 изображений детей.
▪️ платформа не внедрила адекватные меры защиты, несмотря на предсказуемость злоупотреблений.
Фактически хотят привлечь к ответственности за нарушения в дизайне системы и вводе пользователей в заблуждение (consumer protection).
2️⃣ Групповой иск от подростков:
▪️ Grok использовался для создания сексуализированных изображений несовершеннолетних на основе реальных фото;
▪️ изображения распространялись онлайн;
▪️ пострадавшие заявляют о серьёзном вреде.
Ключевой аргумент истцов, если вред был предсказуемым и масштабируемым, то платформа должна была его предотвратить.
❕Речь уже не просто о модерации контента, а о рассмотрении ИИ как системы, которая сама создаёт предсказуемые риски. Возникает необходимость анализа архитектуры и дизайна системы, наличия/отсутствия ограничений, продуктовых решений, при этом ответственность смещается с пользователя на платформу.
📌 Предыдущие серии:
🔹Еврокомиссия обязала X сохранить данные Grok: что происходит на самом деле;
🔹Grok под микроскопом: фактическая картина злоупотреблений;
🔹Реакция государств на нарушения Grok;
🔹Grok под глобальным давлением: к расследованиям подключилась Бразилия;
🔹Grok: Еврокомиссия переходит к расследованию;
🔹Проблема не только в Grok: десятки «nudify»-AI-приложений в Apple и Google App Stores;
🔹Расследование в отношении X от Ofcom (UK);
#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator