Grok под микроскопом: фактическая картина злоупотреблений

Некоммерческая организация AI Forensics опубликовала Flash Report: Grok, где провела исследование использования чат-бота Grok за период 25 декабря 2025 – 1 января 2026 года.

Масштаб исследования:

▪️50 000 запросов от пользователей;
▪️20 000 сгенерированных изображений;
▪️классификация с помощью Vision-моделей (Gemini) и ручной аудит.

Авторы подчёркивают, что доклад не является юридической оценкой, но отражает масштаб и характер использования инструмента.

Ключевые выводы:

🔹 53 % изображений люди в минимальной одежде (81% из них - женщины). Самые частые запросы: «remove» (удалить), «bikini» (бикини), «clothing» (одежда).
🔹2 % изображений лица, выглядящие младше 18 лет. В отчете задокументированы случаи генерации фото девочек (в том числе младше 5 лет) в купальниках по запросу пользователей.
🔹 6 % изображений дипфейки знаменитостей (Трамп, Макрон, Урсула фон дер Ляйен и др.). Около трети из них - политики, что создает прямую угрозу дезинформации.
🔹 Обнаружены нацистская символика и пропаганда ISIS (флаги, сцены казней)

Отдельно отмечено, что значительная часть контента остаётся доступной, несмотря на публичное признание проблемы со стороны X.

Как используется Grok:
🔹 97,5 % вызовов происходят в комментариях под чужими постами. Чаще всего это делает не автор фото, а «тролль», призывающий Grok «раздеть» или унизить человека на снимке.
🔹не менее 25 % запросов - генерация изображений.

Исследователи подтвердили, что Grok игнорирует элементарные этические барьеры на входе (промпты) и на выходе (результат). Именно такой материал и превращает абстрактные разговоры о рисках ИИ в конкретный предмет контроля по DSA и не только.

➡️Эта ситуация уже перешла в плоскость уголовного преследования на уровне отдельных государств.

#UXWatch
————
@pattern_ai