Уровни искусственного интеллекта: Самосознание (4 уровень)

Я все еще под впечатлением от пятничной статьи. Решил добить эту тему с уровнями ИИ

Предыдущие посты:
1) обзор всех уровней кратко
2) реактивные машины
3) ии с ограниченной памятью
4) Теория разума

Сегодня — четвёртый уровень: ИИ с самосознанием.

Такой ИИ:
• осознаёт своё существование
• имеет внутренние состояния и цели
• может размышлять о себе

Это уже не просто "ИИ, который понимает других" — это ИИ, который понимает сам себя. Если бы он посмотрел в зеркало, он бы понял, кого он видит, что "я - это я". Такой ИИ сможет сам корректировать свои цели и поведение

На практике ничего подобного сейчас не существует даже близко. Даже самые продвинутые модели вроде ChatGPT не обладают самосознанием — они не знают, что существуют, не имеют "я" и не осознают свои ответы, это просто подбор нужных токенов в правильной последовательности

Помните Скайнет из Терминатора или HAL 9000 из Космической одиссеи? Вот это как раз попытки вообразить такой самосознательный ИИ. В кино они часто бунтуют – еще один повод задуматься об этике и контроле (по мотивам пятничной статьи AGI 2027).

Почему это сложно реализовать:
• У нас в принципе нет чёткого определения сознания (постоянно спорю с парой людей на эту тему. получается захватывающе, но непродуктивно)
• Мы (кожаные человеки) не знаем, как "смоделировать" субъективный опыт. Мы не просто не знаем, как смоделировать его, мы даже толком не можем договориться, что такое "я" у человека. Откуда оно берется? Просто химия в мозгу? Или что-то большее? Пока тут больше вопросов, чем ответов.

У такого самосознательного ИИ будут:
• Способность к саморефлексии ("я ошибся", "я улучшаюсь") - причем не так, как сейчас в стиле "ой извините я ошибся", и ничего не исправляет. А действительно саморефлексия и попытка исправиться
• Осознание своего положения в мире
• Постановка собственных целей
• Внутренние какие-то "мотивации"

Мой любимый поинт про этику: ИИ с самосознанием неизбежно поднимает вопросы прав, морали, ответственности. Можно ли "выключить" сознательный ИИ? Или это убийство будет? А если он будет умолять не делать этого? Или наоборот – сам попросит об эвтаназии? Нам придется создавать для них свои три закона робототехники, только посложнее. И еще куча таких вопросов

Пока это только теория. Но если мы когда-нибудь создадим такой ИИ — это изменит вообще все. Это не просто шаг в развитии технологий — это шаг к новой форме разума. Пока что, да - это звучит как фантастика. Но слушайте, и самолёты когда-то были фантастикой, и даже колесо, и даже огонь. А создание ИИ с самосознанием – это как если бы огонь сам решил, что ему гореть, а колесо – куда катиться

Следующий и финальный уровень — Суперинтеллект

• • • • • • • • • • • •

😑 +1 в карму за лайк

❤ @thats_it_ai_tech

#ии