В современном мире внимание людей стало ключевым ресурсом, за который ведется жесткая борьба. Эта теория известна как «экономика внимания».
Соцсети зародились в начале нулевых, а сегодня стали основными платформами по превращению данных и внимания пользователей в прибыль с рекламы. Поэтому алгоритмы соцсетей показывают не столько полезный контент, сколько контент, который держит пользователей вовлеченными как можно дольше.
Так пользователи все чаще испытывают раздражение и усталость от соцсетей. Они стали местом агрессии, ненависти и политической поляризации, а ИИ помогает создавать информационные пузыри, распространять фейки и пропаганду.
Поляризация общества встроена в бизнес-модель. Злить нас и пугать выгодно для бизнеса, так как приковывает наше внимание. Пока корпорации получают прибыль от пользовательских данных, существующие проблемы никуда не исчезнут.
Соцсети следят за каждым действием пользователя (от его геолокации до посещаемых сайтов) и на основе этих данных формируют ленту рекомендаций, часто состоящую из коротких видео.
На нейрофизиологическом уровне соцсети воздействуют на мозг через систему вознаграждения. Каждый короткий ролик - это мгновенный источник положительного стимула. Когда вы видите что-то интересное, мозг выделяет дофамин, вызывая кратковременное чувство удовольствия.
Быстрая смена контента создает неопределенность, усиливая ожидание следующего приятного ролика, подобно азартной игре. Регулярные выбросы дофамина приводят к привыканию, а мозг начинает ассоциировать просмотр коротких видео с мгновенным удовольствием, формируя зависимость.
Таким образом, мы потребляем информацию, часто не проверяя ее достоверность. Бесконечный поток контента, в том числе сгенерированного ИИ, формирует ложную картину мира и загоняет человека в информационный пузырь.
Например, Дональд Трамп опубликовал на платформе Truth Social поддельное видео с якобы реакцией ведущего CNN Андерсона Купера на его участие в теледебатах.
В 2022 году Илон Маск приобрел Twitter и сократил 75% сотрудников, включая команду, отвечающую за борьбу с фейками. Таким образом Маск усилил свое политическое влияние, получив контроль над массовым каналом коммуникации.
Однако кейс с Маском является скорее исключением. Как правило, отдельные государства могут оказывать влияние на соцсети, распространяя пропаганду через ботофермы.
Другой пример - скандал с Cambridge Analytica, когда данные миллионов пользователей Facebook без их согласия были использованы для политической рекламы на выборах президента США в 2016 году.
Вот короткий гайд по уничтожению демократии:
1. Берем соцсеть под контроль (через государственное влияние или частный бизнес);
2. С помощью ИИ создаем дипфейки, распространяем дезинформацию и пропаганду;
3. Настраиваем рекомендательную систему так, чтобы пользователи оставались в своих информационных пузырях;
4. PROFIT. Люди формируют «собственное» мнение и идут голосовать на выборах.
Тем самым демократия, предполагающая свободный выбор граждан, подрывается на корню. Из-за использования ИИ общество начинает жить в параллельной реальности, где факты теряются среди множества противоположных версий одного и того же события.
Далее люди голосуют на выборах, искренне веря, что делают осознанный выбор, но на самом деле выбор уже заранее подготовлен алгоритмами, которые сформировали удобную для манипуляции картину мира.
Главная угроза демократии в том, что свобода выбора подменяется иллюзией свободы. И чтобы избежать попадания в эту ловушку, важно осознанно подходить к потреблению информации. Соцсетями следует пользоваться строго дозированно и критически подходить ко всему, что вы видите в своей ленте.
Как говорится, «кто владеет информацией - владеет миром». Управлять же людьми становится проще, когда ИИ создает иллюзорный мир, скрывая правду за завесой фейков.
#мысли