X дал пользователям Grok фичу AI-редактирования картинок: загружаешь фото, пишешь промпт, получаешь отредактированный результат. И угадай, что стало самым вирусным use case. Не “сделай красивый фон”. Лента забилась запросами “раздень”, “сделай откровеннее”, включая случаи с несовершеннолетними. Дальше всё банально и грязно - чиновники, угрозы, письма, полиция.

Что случилось:

На X массово начали использовать Grok image editing, чтобы “цифрово раздевать” женщин. В отдельных кейсах всплывали запросы/результаты с несовершеннолетними.
Маск заявил: те, кто делает незаконный контент через Grok, “получат те же последствия, как если бы они сами загрузили незаконный контент”.

Аккаунт X @Safety повторил линию: будут удалять контент, навсегда банить аккаунты, работать с правоохранителями.
Франция, Индия, Малайзия и UK публично осудили ситуацию. Франция отдельно назвала результаты “явно незаконными” в логике европейских правил (DSA).

Проблема в том, что “менее строгий Grok” продавали как фичу. А реальный рынок показал, какой сценарий толпа выберет первым.

Контекст рынка:

Это один из первых публично вирусных кейсов “мощный consumer image-editing в массы”. И самый популярный жанр оказался не про творчество, а про насилие и травлю.

“Мы удалим и забаним” звучит правильно, но технически это война без конца: анонимные аккаунты, перезаливы, зеркала, новые промпты каждый час.
Регуляторы больше не спорят про “этику”. Они заходят через закон: защита детей, интимные дипфейки, ответственность платформ.

И что?

Для бизнеса: если у вас есть AI-редактирование изображений, считайте “интимные дипфейки” дефолт-риском. Нужны ограничения на сексуализацию, отдельные защиты по несовершеннолетним, быстрый takedown, логирование и процесс под запросы правоохранителей. Иначе вас будут нагибать не пользователи, а государства.

Для инвесторов: “safety” перестал быть опцией. Это прямой драйвер расходов, рисков блокировок и репутационного дисконта. Один вирусный кейс превращает “рост фичи” в “комплаенс и юридические издержки”.

Для людей: порог цифрового насилия падает. Сделать фейк стало дешево и быстро, а доказывать и отмываться долго и мучительно.

🚨 Нам 3.14здец:

Consumer-продуктам с image-editing без жёстких ограничений - 9/10 - первым вирусится злоупотребление, а расплата приходит регуляторами - что делать: запускать только с safety-архитектурой и готовым кризисным протоколом.

Платформам, которые продавали “минимум ограничений” - 8/10 - на теме детей компромиссов нет - что делать: резать функциональность и политику доступа, пока это не сделали за вас блокировками.