Сложилось ощущение, что они более года назад внедрили какой то новый алгоритм или "улучшенную" LLM для распознавания adult контента.
Почти год назад на одном из сайтов я обнаружил что он начал тригериться на страницы в которых использовались маты с сексуальным контекстом, а также словами.
Причем так как это комментарии, я закрывал их частично звездочками, например "за такое могут и в**бать". Далее мне прилетело за слова "клубничка" (не хотел писать словно порно), потом за словосочетание "18+". Статьи никакого порноконтента не содержали, как и эротического содержания.
Далее на одном из сайтов с похожей проблемой среди десятков комментариев под постом на сайте Wordpress я обнаружил аватарку вагины. Если быть точнее, в большем разрешении ее не оказалось, но вы наверное сталкивались с подобными аватарами в соцсетях. Размер был 30 на 30 пикселей.
Я подумал, если я ошибся, может и Google SafeSearch тоже на него стригерился?
И что вы думаете - после удаления аватарки SafeSearch перестал ругаться на статью.
Мне удалось передать вопрос к Google через Вячеслава Вареня и они ответили так:
"На маленьких картинках классификатор часто ошибается. Аватарки могут классификатор навести на ошибки."
Мне пришла очень неприятная мысль - а ведь достаточно оставить безобидный комментарий на любом сайте с Wordpress у которого картинки грузятся с сервиса Граватар - и он пройдет модерацию. А потом через месяц можно влепить 18+ картинку - и страница может потерять до 80% показов в выдаче за счет Google SafeSearch . Если думаете что такое туда не залить погуглите по запросу site:gravatar.com porn
Если вы думаете что я один жалуюсь на Google SafeSearch - не так давно
Stefan Mustieles написал, что он тригерился на ноги как на "сексуально откровенные".
Также будьте внимательны с сторонними виджетами типа того же Disqus или Cackle, так как если там опубликуют сторонние пользователи на вашем сайте 18+ - это будет считаться как нарушение на вашей странице.
Кстати тригерится он не только на графический, но и на текстовый контент. На скринах сначала ему в запросе не нравится словосочетание "18+ опыта" , в втором случае вообще не понятно что ему не нравится, проверял ИИ ничего взрослого там нет.
Что делать?
Первое - если есть подозрения что фотка может быть помечена 18+ , то предварительно загрузите ее с помощью Cloud Vision API demo.
Туда же можно залить текст виде скриншота.
Что делать если у вас уже есть сайт? Идем сюда и включаем:
Размытие
Изображения для взрослых будут размыты, но текст и ссылки останутся
Переходим далее в Гугл и вбиваем site:site.com
Переходим в Изображения и теперь ищем заблюренные фото.
Если у вас огромный сайт и тысячи картинок, можно вбивать слова дополнительно которые могут тригернуть алгоритм.
Пример
site:reddit.com porn
Ради интереса - там много примеров фото которые не содержат 18+ контента, но такими считаются.