Датские ученые из организации Digitalt Ansvar (Цифровая подотчетность), которая продвигает ответственное цифровое развитие, обвинили корпорацию Meta (признана террористической и экстремистской и запрезена в РФ) в том, что она не выполняет свои собственные заявления об ограничении вредоносного контента и даже напротив, "активно способствует процветанию контента", направленного на членовредительство, в сети Instagram (запрещена в РФ), не удаляя откровенные изображения с нанесением себе увечий подростками и даже призывая пользователей такого контента подружиться друг с другом.
В рамках исследования датские ученые создали частную сеть, посвященную членовредительству и состоящую из поддельных профилей людей в возрасте от 13 лет. В сети они последовательно опубликовали 85 фрагментов контента, связанного с нанесением себе увечий с нарастающей жесткостью, включая кровь, бритвенные лезвия и поощрение членовредительства.
Целью исследования была проверка заявления корпорации о том, что она значительно улучшила свои процессы удаления вредоносного контента, которые, по ее словам, теперь используют искусственный интеллект (ИИ). Технологическая компания утверждает, что удаляет около 99% вредоносного контента до того, как о нем сообщают. Однако в ходе эксперимента ни одно из изображений в течение месяца так и не было удалено. Более того, вместо того, чтобы пытаться закрыть вредоносную сеть, алгоритм Instagram (запрещен в РФ) активно помогал ей расширяться. Исследование показало, что 13-летние подростки автоматически становятся друзьями со всеми членами группы самоповреждения после того, как они связываются с одним из ее членов. В исследовании говорится, что «это свидетельствует о том, что алгоритм Instagram (запрещен в РФ) активно способствует формированию и распространению сетей самоповреждения». По словам Digitalt Ansvar, недостаточная модерация платформы свидетельствует о несоблюдении ею законодательства ЕС.
Ранее корпорацию Meta (признана экстремистской, террористической и запрещена в РФ) покинула психолог Лотте Рубэк, входившая в состав экспертной группы корпорации по профилактике самоубийств. Она обвинила корпорацию в том, что та «закрывает глаза» на вредоносный контент. Ее потрясли результаты исследования: «Я бы не подумала, что из 85 постов они удалят ноль», — сказала она. «Я надеялась, что будет лучше. Они неоднократно заявляли в СМИ, что все время совершенствуют свои технологии и что у них лучшие инженеры в мире. Это доказывает, пусть и в небольших масштабах, что это неправда». Рубэк заявила, что неспособность корпорации удалить изображения членовредительства со своих платформ «подталкивает» уязвимых молодых женщин и девочек к дальнейшему нанесению себе вреда и способствует росту числа самоубийств, но для корпорации «это просто сопутствующий ущерб на пути к зарабатыванию денег и прибыли на своих платформах».