Google: как измерить сознание ИИ, не зная, что такое сознание

Исследователи Google DeepMind с коллегами представили свежую работу «От какофонии к иерархии».

Авторы отмечают, что проблема не в том, что теорий о сознании мало (их как раз много), а в том, что они говорят на разных языках и не могут договориться между собой.

Одни говорят, что сознание - это поведение, другие - вычисление, а третьи - особая причинно-следственная структура, четвёртые - только живой организм, а пятые, что это про взаимодействие тела с миром. Все они дают разные ответы на один вопрос.

Исследователи предлагают не решать этот спор, а структурировать его. Они выстраивают пятиуровневую иерархию от поведенческого уровня до уровня организм–среда и показывают, что каждая теория сознания делает ставку на какой-то из этих уровней.

И исходя из этого видно, где расходятся позиции в интерпретации данных или в самой теории.

Особая проблема для ИИ, говорят авторы, заключается в том, что современные языковые модели антропомиметичны, они обучены воспроизводить продукты человеческого познания и речи. Поэтому человекоподобное поведение одновременно является свидетельством и помехой.

Система может показывать все признаки сознания потому, что научилась их имитировать, а не потому что у неё есть сознание.

Дальше авторы создают байесовскую модель, которая берёт одни и те же данные о языковой модели и показывает, что при оптимистичной интерпретации вероятность сознания у LLM 0.397, а при скептической 0.005. Меняешь не данные, а теоретические веса уровней и получаешь разброс от 0.099 до 0.793.

Авторы называют свою позицию структурированным агностицизмом: делай допущения явными, делай данные явными, обновляй и то, и другое и предпочитай калиброванную неопределённость преждевременному вердикту.

Они также выпустили интерактивный инструмент, где можно самому поиграть с допущениями.