>>> продолжение >>>

В конце Сет рассуждает про сознание у машин. В этой главе он справедливо пишет, что сознание как свойство организма ортогонально интеллекту. Они, конечно, коррелируют в эволюции, но необходимой теоретической связи между ними нет. Поэтому умная машина не обязана обладать сознанием (см. изображение выше).

Для Сета биологическая природа носителя сознания принципиально важна для обьсяннния сознания. Центральное содержание сознания - это внутренние предсказания о критически важных гомеостатических переменных. Сет называет самое базовое такое переживание просто ощущением, что ты живой организм. Это самое базовое сознательное переживание (т.е. предсказание), не редуцируемое далее. Пока мы живы, это предсказание не корректируется. Поддержание этого предсказания неизменным (т.е. выживание) - главная цель сознательного организма, на этом строятся все остальные предсказания.

Так как биология первостепенная для Сета, он пишет, что даже если сделать идеальную предсказывающую и корректирующую свои предсказания о внешнем и внутреннем мире машину - он не уверен, будет ли она обладать сознанием. Просто из устройства «психики» такой машины не будет с необходимостью следовать сознательный опыт. И в этом месте, мне кажется, вся теория проседает. В этом месте отказ от сложной проблемы сознания сводит на нет всю остальную работу. Потому что объяснение сознания можно в итоге свести к тому, что это такое свойство (некоторых) живых организмов. А все построения про контролируемые галлюцинации, правило Байеса, веру в существование Я и внешних объектов – всё это никак не связано с природой сознательного опыта. Такой вот неожиданный критический вывод.

В целом книга хорошая, она хорошо резюмирует многие современные идеи о сознании и складывает их в общую картинку. Но насколько сетовская формулировка «реальной» проблемы сознания помогает понять этот феномен с естественно-научной точки зрения – решайте сами.