Jeremy Pober и Eric Schwitzgebel - “Substrate Flexibility and the Copernican Principle of Consciousness”
статья классная - прежде всего потому, что она коротко берет большую тему и делает из нее понятный аргумент: если сознание не обязано быть привязано к нашей биологии, то разговор об ИИ, инопланетной жизни и вообще других умах резко становится серьезнее👍
главный вопрос статьи:
обязательно ли сознанию нужен именно такой биологический мозг, как у нас, или оно может возникнуть на совершенно другой физической основе?
главная мысль довольно простая:
возможно, сознание не привязано к конкретному материалу, из которого сделан человеческий мозг
Consciousness is substrate flexible.
авторы предлагают перенести коперниканский принцип* на сознание. как Земля не занимает особого места во Вселенной, так и человек, возможно, не занимает какого-то уникального места среди всех сложных существ.
Among behaviorally sophisticated entities, we are not specially privileged with respect to consciousness.
*Коперниканский принцип - не стоит считать человека или Землю особым исключением без достаточных оснований. в данном случае: если существует множество сложных существ, нет причин заранее считать, что сознание возможно только у нас
-
если во Вселенной существует множество сложных форм жизни, построенных на совершенно другой химии, странно автоматически считать, что сознательной оказалась только та жизнь, которая случайно устроена как мы🤩
и отсюда довольно быстро возникает вопрос про ИИ
статья не утверждает, что современные ИИ сознательны. более того, сами авторы здесь расходятся
👺 Pober говорит примерно так
-доказав, что сознание может существовать на других субстратах, мы ещё не доказали, что современные кремниевые компьютеры подходят. поэтому разумный default - пока не считать нынешние AI сознательными
🔮 Schwitzgebel идёт дальше
- если мы уже отказались от идеи, что сознанию обязательно нужна человеческая биология, то просто провести новую магическую границу перед silicon chips тоже трудно. если искусственная система достигнет нужной степени сложности, придётся дать отдельную причину, почему именно её физическая реализация исключает сознание
короче:
cознание ≠ человеческий мозг - ещё не означает - ИИ сознателен, но сильно усложняет аргумент ИИ не может быть сознателен, потому что он не биологический 🧠
то есть вопрос постепенно становится не из чего сделана система, а что должно происходить внутри неё, чтобы появился субъективный опыт