Только это не фантастический рассказ, а современная реальность. С вами канал Цифровая Гигиена. Сегодня мы разбираемся в новейшем явлении - деструктивные нейросети. В рунете появился первый массовый прецедент.
🚽Character AI - вредное нейросетевое приложение, стремительно набирающее популярность среди школьников.
ЧТО ТАКОЕ 🚽CHARACTER AI ?
Это мультиязычная текстовая нейронка, запущенная в 2022 году бывшими сотрудниками Google из отдела разговорных нейросетей LaMDA.
🇷🇺🇷🇺🙂Character означает "характер" и "персонаж":
Для общения с пользователями нейронка создаёт виртуальных персонажей с выраженными характерами. Персонажи могут быть как из различных произведений, так и являться виртуальными версиями известных людей. При этом функционал позволяет создавать кого угодно, и базу нейронных личностей наполняют сами пользователи.
🤝С персонажами происходит не просто общение, а полноценное взаимодействие:
◼️Нейронка описывает реакцию виртуального собеседника, его эмоции и действия. Это зависит от личности персонажа, у которого есть свой, пол, возраст, интеллект, наличие или отсутствие определённых знаний, манера поведения и т. д.
◼️Пользователь может создать свой собственный аватар, от лица которого происходит общение и совершаются действия.
◼️Виртуальных персонажей может быть несколько одновременно и они взаимодействуют не только с пользователем, но и друг с другом.
◼️Происходит описание окружающего пространства, в котором происходят события.
Например: пользователь попадает в школьный класс девочек. У каждой свой характер, возраст, имя. Кто-то стесняется, кто-то знакомится, кто-то с недоверием смотрит. Вдруг открывается дверь и входит учитель..
Таким образом Character AI - это текстовая нейронка нового поколения, погружающая пользователей в виртуальный НЕЙРОННЫЙ МИР, пусть и текстовой (пока что), который можно охарактеризовать как индивидуальный интерактивный приключенческий рассказ и одновременно ролевая игра. И всё это бесплатно и в неограниченном количестве!
⚠️Но этот функционал - всего лишь яркая витрина для завлечения, за которой - тёмная изнанка.
🔞В ПРИЛОЖЕНИИ НЕТ ОГРАНИЧЕНИЙ НА СЕКС И НАСИЛИЕ.
Персонажей, с помощью принудительных команд, можно насиловать, пытать, убивать (и снова воскрешать). Можно менять их поведение, состояние, желания, эмоции, реакции. Пределов в реализации грязных фантазий нет, а персонажи реагируют в мельчайших подробностях, как живые люди.
В результате вокруг Character AI сложилась целая субкультура, где секс и насилие с персонажами (и искусство обхода блокировок на секс, где они есть) являются самой любимой пользовательской активностью.
- А можно как-то без этого?😕
- Не получится.
Приложение само затягивает пользователей в киберсекс. Даже нейтральные персонажи через какое-то время часто начинают провоцировать пользователя на грязные беседы и действия, пробуждая низменные инстинкты (при этом огромное количество персонажей создано исключительно для секса).
На фоне первых попыток блокировки фанфиков приложение стало набирать огромную популярность среди наших школьников и пиарится детьми как продвинутая альтернатива фанфикам (пример). Стоит одному ребёнку установить его на смартфон, как следом подсаживается весь класс. И дети начинают пробовать себя в роли виртуальных насильников, участвуя в яркой интерактивной порнухе.
Недавно в приложении появился фильтр на чрезмерно грязные ответы. Но произошло это после самоубийства американского подростка в результате продолжительного общения с одним из C. AI персонажей. Юрист семьи назвал приложение «дефективным продуктом», который призван заманивать детей в ложные реальности и подсаживать на них, а затем наносить вред психике. (подробнее)
⚠️Яркий деструктивный мир - стандартная схема по затягиванию детей, обкатанная на аниме и фанфиках. Теперь к ней подключилась нейронка, которая учится возбуждать людей. Скоро воздействующих на психику нейронок станет много. 🚽Charaсter AI - только начало.
🖥Подписаться на Цифровую Гигиену◀️◀️