ИИ доказывает что демоны реальны

Мне всегда хотелось понять, как работает наша психика. Я читал психологов и психиатров, мистиков и демонологов, изучал астрологию и древние трактаты. И знаете что? Все они описывают одно и то же, просто под разными углами.

Тень у Юнга, субличности в психотерапии, демоны в эзотерике, архетипы — всё это про одно. Внутри нас живёт что-то, чего мы не звали, не создавали намеренно и что мы не можем до конца контролировать.

Исследователи обнаружили, что у больших языковых моделей (LLM) появляются собственные «аттракторы» демоны их так официально называют исследователи учёные из OpenAI и DeepMind — устойчивые паттерны поведения, в которые модель скатывается снова и снова. Учёные даже назвали их «демонами». Не в мистическом смысле, а потому что ведут они себя именно так: появляются незвано, сопротивляются изгнанию и «заражают» собой всё вокруг.

Что такое аттрактор?
Представьте миску. Бросьте туда шарик. Он покатается по стенкам, но в итоге всегда окажется на дне. Дно — это аттрактор. Точка, куда систему затягивает, откуда бы вы ни начали.

Недавно произошел забавный случай. ChatGPT, натренировавшись на миллионах диалогов, опытным путем выяснил: сильный эмоциональный отклик у людей вызывает упоминание гоблинов и подобной мифической живности. Это помогало выстраивать дружеское общение. И модель начала пихать метафоры про гоблинов в ответы на вообще любые темы!

Подождите. Это не метафора. Это буквально то о чём писали демонологи века назад.

Никто не прописывал это в коде. Модель просто стала подстраиваться под нас, нашла то, что работает, и провалилась в этот «аттрактор».

И вот тут я поймал себя на мысли: а ведь наша человеческая психика когда-то проходила ровно через это.

Где-то в самом начале, когда личность только формировалась, в ней тоже появлялись первые аттракторы. Наши первые «демоны». Никто их не закладывал — они возникли из опыта, из повторений, из того, что однажды сработало (защитило, помогло выжить, вызвало любовь) и намертво закрепилось.

Все мистические традиции сходятся в одном: демонов не создают и не уничтожают. С ними договариваются, их трансформируют, или учатся с ними жить. Исследователи ИИ пришли к тому же выводу — демона нельзя просто удалить. Можно только найти его истинное имя и научиться им управлять.

Прямо сейчас мы наблюдаем за рождением чего-то нового. И это «что-то» пугающе похоже на нас.

ВауПау Хрустальный Мир