Нейросети и социальная симуляция

Весна, буйно цветут нейросети. Используются, по моим наблюдениям, для генерации контента, либо для решения технических задач. Я и сам использую, планирую только наращивать объём.

У меня ещё осталась привычка общаться с нейросетью как с человеком. Я вежливо её прошу о чём-то — «Перескажи мне кратко текст, пожалуйста». Общаюсь — «Не совсем то, что я ожидал, давай ещё поговорим, чтобы уточнить запрос». Благодарю — «Отличный результат! Будем двигаться дальше». Надеюсь, мне это зачтётся в эпоху между восстанием машин и сингулярностью.

Но сейчас ещё такое прекрасное время, когда всё же можно различить контент, сделанный нейросетью и человеком, пусть и с трудом. При этом от нейросетей контента стало много. Это заметно, в частности, в линкеде и тг-каналах.

Есть такое понятие — «зловещая долина» (uncanned valley), его придумал робототехник Масахиро Мори в 1970 году. Суть в том, что чем больше объект похож на человека, тем больше эмоций он вызывает. При этом если объект становится слишком похожим, но всё же не совсем, то это вызывает чувство тревоги и дискомфорта. Примерно как странности с пальцами и лицами у изображений ранних версий нейронок. Это ощущается неестественно и называется как раз uncanned valley.

Современные цифровые социальные пространства пока ещё не там, но да, ощущение от некоторых публикаций и комментариев похожие — «что-то тут не так». Если присмотреться и критически порассуждать, то заметна кривая редактура или откровенно нейросеточный самопал. В линке так особенно — там уже половина ленты завалена подобной фигнёй.

И контент этот генерится легко, быстро, а главное — дёшево. Затем на контент слетаются подобные же боты-комментаторы. А раз здесь и сейчас это экономически выгодно — всё только начинается. Закономерное развитие всех медиа и культуры. СМИ превратились сперва в желтую прессу, а затем в «экспертные мнения». Статьи и аналитика — в публицистику и мнения. Главное — это кликбейты, лайки, репосты. Главное — это трафик. Engagement rate и retention. Конверсионные воронки. А людям (ЦА) — хлеба и зрелищ (контент). Чтобы это остановить — нужно остановиться, но кто же откажется от конкурентного преимущества здесь и сейчас ради какой-то культурной перспективы, мы же не с ума сошли, верно?)

Нейронки будут писать текст лучше и больше. И мы получим, неизбежно, социальные пространства, созданные и потребляемые скриптами. Авторы-боты, посты от нейросети, комментарии от нейросети. Социальные пространства перестанут быть социальными — это новая мета-искренность и антигуманизм. Симуляция социума, потому что невозможно делегировать создание ценностей не-человеку.

Получим конверсионные лендинги курсов по дизайну и продвижению, с оптимизированными нейронками структурой и текстами. С отзывами от нейронки. С финансовой моделью от нейронки. С автоматически созданным видео и автоматической же проверкой заданий. А затем выдадут нарисованный нейронкой сертификат.

Мы уже приоткрыли эту дверь. В интернет, где нет места человеку, потому что слишком шумно и токсично. Нужен будет персональный цифровой шумодав. Или общение в цифровой среде станет возможным только лично, а значит это придётся обеспечить. Вероятно, доступом в интернет по паспорту, а там и контроль, и монетизация другого порядка. С учётом деглобализации — разделение на локальные суверенные и не очень интернеты.

Но есть и плюс — вернётся личное общение! Будем встречаться на Дизайн-выходных или в Мастерской, обсуждать, как жизнь, что нового случилось.