ЧЕГО: xAI обучали Grok на детской ПОРНОГРАФИИ. Теория всплыла после того, как одна из жертв производителей ЦП подала в суд на компанию.

Дело в том, что материалы с пострадавшей до сих пор лежат в сети. Благодаря хэш-меткам, которые используются для блокировки, фото и видео с ней регулярно удаляются, но недавно жертва получила уведомление: кроме старых материалов появились новые.

🔤🔤🔤🔤🔤🔤🔤🔤🔤

Grok сгенерил откровенные фото с её участием. После этого расследование выяснило:

🔅 xAI скормили своей нейронке часть материалов с несовершеннолетней девушкой и даже не застопорили обучения, хоть у них были хэши, которые нужно удалять из дата-сета;
🔅 Юзеры даркнета обошли слабые настройки цензуры Grok и нагенерили новые материалы на основе реальных фото и видео;
🔅 При каждой генерации Grok кидал вводные данные с результатом в свой дата-сет для обучения.

Теперь юристы говорят, что у xAI нет правил о фильтрации ЦП, а Grok не может «забыть» то, на чём обучался.

Девушка же хочет признать иск коллективным и подключить иных жертв, чьи детские фото ИИ использовали для генерации. Главная просьба — удаление всех материалов и компенсация морального вреда.

Не знали мы о таком увлечении Грока...

🙂 Не баг, а фича