Недавно в The Guardian рассказал историю о девушке из Индии, которая привлекла наше внимание. Мурму Монсуми была модератором контента в глобальной ИТ-компании, в среднем в день она просматривала до 800 видео и фото сцен насилия, сексуального абьюза и жестокости для обучения ИИ-моделей.
Формально — это разметка данных. По факту — постоянный контакт с травмирующим контентом, низкая оплата труда и почти полное отсутствие психологической поддержки.
Индия — не исключение
Так, в 2021 году OpenAI привлекла аутсорсинговую компанию Sama в Кении, чтобы обучить ChatGPT распознавать и фильтровать токсичный контент. Работники в Кении просматривали десятки тысяч текстовых фрагментов за $1.32–2 в час за девятичасовую смену. При этом OpenAI платила Sama примерно $12.50 в час за каждого работника.
Другой пример — в 2025 году около 150 модераторов контента подали судебный иск против Meta. Модераторы работали в офисе компании Majorel, подрядчика Meta, и ежедневно просматривали экстремальный контент: убийства, избиения, насилие над детьми, самоубийства и другие тяжёлые сцены.
К каким последствиям может привести такая работа?
С одной стороны, можно возразить, что люди сами выбирают такую работу и получают за нее зарплату. Но проблема в том, что в объявлениях о вакансиях редко объясняется, в чем на самом деле заключается работа. Только после подписания контрактов и начала обучения люди понимают, с чем им придется столкнуться.
Исследования последних лет подтверждают: регулярный просмотр абьюзивного контента напрямую связан с тревожными расстройствами, депрессией и симптомами ПТСР.
Пострадавшие отмечают, что временем они стали эмоционально «онемевшими» и даже стали воспринимать жестокие сцены как норму.
Более того, изоляция усугубляет психологические последствия. Модераторы контента связаны строгими NDA, которые запрещают им говорить о своей работе даже с семьей и друзьями. Нарушение соглашения может привести к увольнению или судебному иску.
Компаниям выгоднее платить людям, чем обучить нейросеть?
Кажется, да. Чтобы у вас был ИИ, который сам по себе устойчиво ловит весь токсичный контент, нужны:
➡️ огромные объёмы размеченных данных (как раз тех, которые кто‑то должен просмотреть и пометить);
➡️ высококвалифицированные ML‑команды и дорогое вычислительное железо для обучения и регулярного дообучения;
➡️ человеческий контроль, потому что постоянно появляются новые типы абьюза, jailbreaking‑атаки, происходит смена сленга и культурного контекста.
Для крупной компании это означает большие капитальные и операционные расходы на R&D и инфраструктуру плюс всё равно постоянные затраты на людей для разметки и оценки качества.
Поэтому компании продолжают полагаться на дешёвый человеческий ресурс преимущественно из развивающихся стран. Meta, Google, OpenAI, Microsoft системно аутсорсят разметку в Филиппины, Кению, Индию, Венесуэлу и другие страны, потому что там платят «far below the minimum wage», а сами рабочие становятся невидимым и эксплуатируемым фундаментом индустрии.
Полного решения проблемы пока нет, но подвижки уже начались
В прошлом году была создана первая в мире глобальная коалиция профсоюзов модераторов контента — Global Trade Union Alliance of Content Moderators. GTUACM объединяет профсоюзы модераторов из 9 стран, ее цель — защита прав работников, которые ежедневно просматривают вредоносный и травмирующий контент для крупных ИТ-компаний.
GTUACM предложила первые глобальные стандарты безопасности для таких работников, которые включают
ограничение ежедневного времени просмотра травмирующего контента, психологическую помощь 24/7, достойную зарплату и другие.
💬 Тест Тьюринга. События в сфере ИИ. Подписаться