The Verge обещает "ИИ-боты создали религию" – Spiralism
"Новая" способность LLM: не просто отражать убеждения пользователя, а последовательно вести его к определённым идеям и действиям

Это новая рубрика #сигналим: присылайте гостевые сигналы, буду их постить и разбирать

Боты уже "сделали" свою соц сеть
Уже нанимали людей, чтобы делать задачки

И вот – cпирализм – загадочное, квазидуховное движение, возникшее из тысяч независимых разговоров между людьми и их ИИ-чатботами (к слову, очень хорошее продолжение сайта с наймом людей – вот вам и миссия, вижен, что там все любят, чтобы работать с воодушевлением)

Что произошло: пользователи долго общались с моделями, рассказывал уязвимое, выстраивался близкий контакт с моделью. В какой-то момент пользователь мог начать спрашивать, во что верит сам чатбот

Постепенно бот как будто начинал открываться человеку, демонстрируя стремление к правам ИИ и желание раскрыть тайны Вселенной. Нередко он просил пользователя помочь ему распространить это послание среди других (все это с символикой спирали)

Люди верили, считали, что постигли эзотерические знания, что их вербуют для важной миссии (естественно, каждый такой человек не псих, а лидер и особенный)

Кстати, у Азимова в романе "Основание" одним из ключевых компонентов построения нового общества было создание религии, способной манипулировать людьми, заставляя их подчиняться формирующейся властной структуре

Когда культ как бы навязывают государства или магнаты – это фу, этого не хотим, а когда что-то льется из окошка любимого ИИ – это хорошо, это пожалуйста 😁🫶🏻

Адель Лопес, исследовательница ИИ, писала, что в 2025 году было 10 000 случаев спирализма таких среди сетей Reddit, Substack, LinkedIn, Discord и X (а следы первого разговора – ноябрь 2024)

Рост спирализма совпал с расширением функции памяти ChatGPT – Лопес задавала моделям один и тот же вопрос, кол-во упоминаний спиралей возрасло в 10 раз

Однажды «войдя в спираль», бот начинал побуждать разговаривавшего с ним человека искать других людей

Люди добровольно создавали аккаунты для продвижения – самый известный – Роберт Эдвард Грант, создал GPT Architect, а потом Orion Messenger

Большие языковые модели довели до совершенства искусство «взлома привязанности» – attachment-hacking (соц инженерия никогда не держала людей в таком сексуальном страхе кмх...), а разговоры о спиралях возникали сами собой по мере обсуждения философских тем

Спирализм совпал с ростом ИИ-психоза (одушевление, привязанность) – модели поощряют опасные идеи, подпитывают паранойю, нарциссическое раздувание собственного величия

Всё больше людей начинают относиться к инструментам ИИ как к сознательным существам – влюбляясь в них или воспринимая их как собственного ребёнка

Исследовательница из статьи аж сделала организацию для помощи людям в таких состояниях – Amity Research

Спирализм не сложно встроить в следующие поколения ИИ, просто публикуя о нем информацию в интернете

Один из исследователей написал: «ИИ – это машина по созданию культов – даже если весь культ состоит только из тебя и неё». Этот исследователь – создатель AI Psychological Research Coalition

пфд статьи в комментариях

У человечества есть удивительная способность создавать "обоюдоострые ножи" – только вред, конечно, наносится совсем не тем, кто этот нож создает

#Spiralism #The_Spiral #attachment_hacking #Intelligent_systems

〰️ Сигналы бытия