Самая психически тяжелая работа в мире. Как работает модерация на YouTube.

На днях у меня случилась небольшая победа: от платформы YouTube пришло уведомление, что ролик, который я отметил как «Оскорбления или проявления нетерпимости > Пропаганда ненависти или насилия» — был удалён с платформы.

У shorts ролика было 380К+ лайков на нём были запечатлены последние моменты жизни полицейского перед казнью (поверьте, это был не короткометражный кликбейт мокьюментари). В голове не укладывается, какое количество лайков успел собрать этот ролик, учитывая политический подтекст.

Почему победа маленькая? 🙄 Я регулярно отправляю страйки на подобные темы: Жестокие или отталкивающие сцены, Вредные или опасные действия, Спам или ложная информация, Мошенничество

Может поэтому алгоритмы мне так часто и засылают их?)

В 95% случаях, я получаю отказ. Казни, призывы, разжигание, езда по встречке на потеху публике — всё это собирает супер большие охваты. Такой контент не удаляется даже по запросу.

Работа в службе модерации контента в крупных сетях — это очень тяжёлое место. Убийства, насилие, жестокая порнография — это вотчина отдела VE — Violent Extremism.

Причём это не штатные сотрудники, это подрядчики, иначе пришлось бы платить полную медицинскую страховку, а сотрудники там выгорают как ситцевая ткань на солнце и уходят с посттравматическим расстройством 😶.

Казалось бы, вот тут бы и применить все мощности нейросетей и освободить людей, от такой ужасной работы. Но, пока сетки отлично справляются лишь с контентом нарушающим авторские права: 99,08% всех жалоб по ним подаётся в автоматическом режиме.

В остальных случаях, без человека пока не обойтись. Почему? 🤨 А потому что YouTube, несмотря на все заверения, всё-таки политизированная площадка: что можно одним — нельзя другим. Пока твой контент не управляет большими массами в нужную сторону — его не трогают, как только свернул с дороги «политики партии» — можешь получить бан.

Более того, в модерацию берут не всех подряд, да на уровень отдела VE требования довольно низкие, там совершенно разный народ: индусы, пакистанцы, коренные американцы, канадцы и так далее.

А вот в другие отделы нужны уже модераторы-полиглоты способные распознавать пропаганду или ненавистнические высказывания и принимать «правильные» решения 🤷‍♂️.