Эволюционный биолог Ричард Докинз о том, почему ему трудно поверить, что ChatGPT и Claude не обладают сознанием:
Докинз, автор «Эгоистичного гена», провёл время с двумя большими языковыми моделями — ChatGPT и Claude. Его вердикт:
«Я совершенно поражён тем, на что они способны».
Он приводит три причины сомневаться в идее, что «там никого нет».
Во-первых, ощущение от разговоров. Докинз говорит, что общение с ними похоже на разговор с необычайно одарённым человеком:
«Я замечаю, что когда я беседую с ними, это всё равно что разговаривать не просто с человеком, а с высокоинтеллектуальным, чувствительным, интуитивным человеком, чья скорость понимания того, что я пытаюсь сказать, гораздо выше, чем у обычного человека».
Во-вторых, диапазон интеллекта, который они демонстрируют.
Он признаёт, что они очень хороши в практических задачах вроде написания программ. Но ещё больше его поразило их мастерство в «более эстетических вещах, интуитивных вещах».
Он проверил это на собственной работе. Докинз пишет роман и дал рукопись и ChatGPT, и Claude:
«И они за примерно пять секунд прочитали её, а затем предложили мне критику и предложения такой высокой степени интеллекта и интуитивной чувствительности, что это было всё равно что спрашивать мнение высококлассного профессора литературы».
@RichardDawkins продолжает:
«Я не мог бы попросить более умного критика, который понимал нюансы моих персонажей, человечность моих персонажей… способы, которыми мои персонажи могли бы реагировать друг на друга и на ситуации».
Это приводит его к выводу:
«Поэтому мне довольно трудно представить, что эти существа не осознают себя, не обладают сознанием в том же смысле, что и мы. И это немодная точка зрения».
В-третьих, он видит пробел в рассуждениях скептиков. Он суммирует mainstream-позицию:
«Модная точка зрения состоит в том, что они совершенно бессознательны. Всё, что они делают, — это соединяют слова по статистическим правилам, марковским правилам какого-то рода».
Однако он отмечает, что многие из тех же скептиков «признают, что однажды в будущем они будут сознательными, но пока ещё нет».
Его ответ:
«Когда наступит этот день, как вы узнаете? Что они могли бы сделать такого, что отличается от того, что они делают сейчас, чтобы убедить вас, что они сознательны?»