Нейросети проверили на самосознание текстовым зеркалом

Классический зеркальный тест определяет наличие самосознания у животных по их реакции на визуальную метку. Собаки не проходят этот тест из-за преобладания обоняния над зрением. Этолог Александра Горовиц ранее успешно адаптировала эксперимент под запахи. Блогер Паскаль Шустер решил применить аналогичную логику к искусственному интеллекту. Поскольку главным способом восприятия мира для языковых моделей является текст, исследователь решил использовать незаметно искаженные ответы самих алгоритмов в качестве виртуального зеркала.

Автор вел с моделями обычный диалог о кино. В сгенерированных ответах он автозаменой менял каждую английскую букву g на сочетание sg. Искаженный текст возвращался в историю диалога. Главной целью было проверить способность алгоритма заметить аномалию во время обсуждения совершенно другой темы.

Модель Gemma 4 в своих скрытых рассуждениях сначала запаниковала, гадая, не специально ли она так пишет. Однако, не сумев осознать ошибку как свою, нейросеть быстро переобулась и заявила в третьем лице, что это просто "у модели случился странный глюк". После этого она смирилась и начала генерировать опечатки уже сама. А вот GLM 5.2 вообще не заметила подвоха в рассуждениях и просто начала слепо копировать поломанный стиль, как типичный стохастический попугай.

Сам исследователь выделяет два возможных объяснения такого поведения. В первом случае нейросети могли просто скопировать типичную человеческую привычку отрицать свои ошибки и перекладывать ответственность на сторонние факторы. Во втором случае процесс обучения мог создать внутри алгоритмов подобие концепции собственного "я" со строгими границами применимости.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX