А как мы поймём, что у ИИ появилось сознание?

В далёком 2024 году мы с Лёшей ездили в Казань и обсуждали ИИ и то, как он будет развиваться в ближайшие годы. Лёша говорил, что скоро мы увидим AGI, и считал, что у него будет самосознание, я был не согласен. Сегодня я подумал: а как мы вообще поймём, что оно появилось?

Вот представь, ты держишь маму за руку, она держит свою маму, та — свою, и так дальше на миллионы поколений назад, до наших предков, у которых ещё даже мозга не было.

На одном конце этой цепочки ты, со своими мыслями, чувствами и планами на выходные, а на другом — какой-нибудь простейший организм. И вот попробуй найти место, где появилось сознание. У мамы ещё не было, а у ребёнка уже есть? Или оно появлялось настолько постепенно, что никакого конкретного момента вообще не было?

И тут как-то сложно становится. Мы же даже с собой до конца не разобрались, что такое сознание и как оно работает, а уже пытаемся понять, будет ли оно у ИИ.

Мне кажется, мы ждём, что это будет какое-то понятное событие, что вот выйдет новая модель и нам скажут: всё, ребята, теперь она себя осознаёт. Но даже если сама нейросеть нам об этом напишет, мы же скажем, что она просто научилась хорошо подбирать слова. И вполне возможно, будем правы.

Но как, блин, отличить одно от другого?

Короче, меня в этой истории интересует даже не то, когда у ИИ появится сознание, а заметим ли мы это вообще. Или пролетим этот момент, пока будем спорить, что это просто алгоритм и ничего он не чувствует.