В контексте разговоров про ИИ все чаще всплывает вопрос о сознании. Будет ли оно у ИИ? Или оно уже есть?
Я заметил, что в этих разговорах под словом «сознание» часто подразумевается что-то разное. Так что решил написать про эти разные «виды сознания».

1. Наличие мотивации, целей, желаний и т.д.
Заметил, что многие под сознанием подразумевают именно это. По сути, это почти то же, что в области ИИ сейчас называют агентностью. При этом, агентность с каждым годом становится все лучше. Поэтому, если под сознанием вы подразумеваете этот вариант, то оно уже есть, хоть и пока примитивное.

2. Самосознание
Это когда ИИ понимает, кто он, что он делает, чем он отличается от других, и т.д. Тут я опять считаю, что ИИ уже достиг этого еще пару лет назад, хоть и в очень простом виде. Как и многие подобные характеристики, самосознание - это скорее градиент, то есть, ИИ может быть более или менее самосознательным, а не просто "есть самосознание" или "нет".

3. То самое сознание
Квалиа, трудная проблема сознания и т.д. Когда я слышу про сознание у ИИ, в первую очередь думаю именно про этот вариант. Кто-то считает, что такое сознание не может быть у ИИ. Другие считают, что у достаточно сложного ИИ оно как-то появится. Но доказать ни то, ни другое по определению невозможно, а значит, и разницы между этими вариантами нет.

4. Понимание того, что ИИ делает
Допустим, ИИ пишет текст. Понимает ли он, что он пишет? Какой эксперимент можно провести, чтобы отличить "понимание" от "непонимания"? Тут опять мы приходим к тому, что может быть много определений, и каждый подразумевает в этом что-то свое.

Что об этом думаете? Может быть, есть другие более удобные определения сознания? И будет ли оно у ИИ?