Consciousness

Многие сейчас поднимают тему сознания в контексте AGI. Как понять что AI стал разумным? Что такое разум? Что такое сознание?

Простые способы тут не работают. Нет определения сознания. На интуитивном уровне человек вообще плохо справляется с определением сознания. Если на камень налепить глаза 👀, человек будет считать, что камень испытывает эмоции.

Способность делать вещи попадает в сферу возможностей или сферу интеллекта. AI уже много где тут обогнал человека - шахматы, например. Это совсем не про сознание.

Юваль Ной Харари красиво разделяет термин сознание от всех остальных терминов вроде интеллекта. Он утверждает что сознание это возможность испытывать эмоции - особенно показателен спектр страданий. Это означает, что сознание это чисто субъективное понятие.

Это красивая мысль.

Для каждого отдельного индивида невозможно понять испытывают ли эмоции остальные существа и остальные люди. Ну, правда, вдруг все вокруг это роботы или NPC?

Все мы - разновидности одного "типа существ". Общество со временем пришло к пониманию что люди вокруг испытывают такие же эмоции.

И как-то это ещё экстраполировали на котов. Они вроде бы такие же как мы, наверное, тоже страдают.

С AI так не получится. Это пришельцы, которых мы вырастили. Невозможно на уровне человеческих норм понять что у множества AI есть какие-то эмоции, так как мы не часть подвида AI.

Куда нас это заведёт - посмотрим. Важная часть уравнения это уровень влияния AI. Если мир AI придет к собственным социальным нормам и при этом будет значимой силой, нам с этим придется считаться.

С котами у нас сильно больше общего.

links: 1 2 3