11. Есть ли у программы душа?

Пересматривали недавно с женой сериал Черное Зеркало (strongly recommended). Обратил внимание, что аж в нескольких сериях есть тейк про "страдания" цифровых симуляций. Постараюсь без спойлеров, но ничего не обещаю.

В общем, там то симуляции возможного будущего (обученные на персоналиях), то "переселение" разума в цифровую вселенную, то дознания цифровой копии разума в виртуальной реальности, и так далее. Суть в том, что некая сущность человека помещается в компьютерную программу и там "живет", а в некоторых сериях - "страдает". И сюжет построен так, будто это плохо. Чтобы зрителю было жалко эту цифровую душу.

Давайте разберемся, что же это такое, и насколько эта фантастика фантастична. Что же именно там переселяют в цифровой мир? Душа - ненаучно (а мы говорим в первую очередь о научной или околонаучной фантастике, не фэнтези). Разум - не совсем, иначе эти цифровые копии могли бы только логически мыслить, но не "чувствовать". Сознание - пожалуй, самый подходящий термин. Но что такое сознание?

Я бы определил это так. Сознание - это факт ощущения собственного существования, дополненный воспоминаниями, опытом и навыками. То есть по сути - это совокупность приобретенных нейронных связей, помещенная в среду, позволяющую осуществлять мышление. Среда может быть естественной (организм с мозгом) или искусственной (программная симуляция). Главное отличие в том, что в естественной среде - это жизнь (если я правильно помню уроки биологии, формальное определение жизни - это форма существования белковых тел), а каждая жизнь священна. А в искусственной среде - это просто запущенный код, и души у него нет.

Про реалистичность. В то, что можно в программно запустить модель, обученную на чьем-то опыте, воспоминаниях, навыках - верю. Трудность только в извлечении этих данных из головы человека, но в целом мы как будто уже довольно близки к этому. А вот что эта модель может дальше что-то чувствовать и страдать - не верю.

Серия, в которой можно было через девайс, похожий на маленький кинескопный телевизор, просмотреть чьи-то воспоминания, мне кажется наиболее приближенной к реалистичности недалекого будущего, в это верю. Остальное - фантастика.

И у меня почему-то эти цифровые души не вызывают никакого сочувствия. Потому что это не настоящие люди, не настоящий разум, не настоящее сознание. Это просто программа - модель, обученная на чьем-то опыте и воспоминаниях. И сюжеты, где эти программы доводили до гибели реальных людей, мне кажутся не очень-то справедливыми. Возможно, такое мнение свойственно тем, кто 20-30 лет назад в Sims строил дома без дверей, убирал лестницу из бассейна, в котором купался сим, или забывал покормить тамагочи. Мы, деды, умеем отделять цифровую вселенную от реальности. А молодежь, которая сама провела пол-детства в виртуальной реальности, а не за гаражами, роняют скупые слезы над Черным зеркалом, и вообще менее психологически устойчивы.