Милые ИИ-мультики с тревожной начинкой

Нейросети научились штамповать мультфильмы быстрее, чем дети успевают их пролистывать. Новое исследование Global Network on Extremism and Technology посвящено ИИ-слопу – массовому и низкокачественному контенту, который создают ради просмотров и вовлечённости. 

В центре внимания — ролики с анимированными фруктами. На первый взгляд они кажутся безобидными, но сюжеты могут строиться вокруг измен, семейных конфликтов, а также пыток и жестокого насилия. Исследователи также обнаружили видео с отсылками к террористической пропаганде, ультраправому экстремизму, нигилистическому насилию и культуре наркокартелей. 

Генеративный ИИ позволяет производить такие ролики быстро и массово. Из-за безобидной мультяшной оболочки жестокий контент сложнее распознать с первого взгляда — и он может оказаться в лентах молодой аудитории.