Посмотрела днях ИИ-дебаты с Либерманами и Давидом Яном. Интересно все от начала до конца, но самое интересное в конце - обретет ли ИИ сознание и если да, что тогда будет. Мой друг Кирилл (он СТО на минуточку, и мы обсуждали этот вопрос в моем декабрьском эпизоде) считает, что нет или это будет ну очень нескоро. Спикеры в эпизоде считают, что это вопрос десятка лет. Интересно узнать, что думаете вы?
В выпуске спикеры рассуждают о том, каков будет тот дивный новый мир. Говорят, человечество разделится на два лагеря:
🤖 Первый будет против. Те, кто скажет: «Мы создали монстра. Это угроза нашей уникальности, нашей душе. Надо остановиться, отключить, запретить». Их мотив - страх и желание сохранить человеческую исключительность.
🤖 Второй будет за. Те, кто увидит в осознанном ИИ нового субъекта, а не объект, и предложат наделить его правами человека - не потому что он человек, а потому что он личность. И тогда встанут вопросы: имеет ли ИИ право на жизнь? На свободу воли? На ошибку? А если ИИ попросит не выключать его, как мы поймём, это страх смерти или просто защитный скрипт? И имеем ли мы право решать за него?
Давид Ян приводит пример. ИИ сможет вылечить неизлечимую болезнь ребенка, с которой медицина справиться не может. Если ИИ потребуют отключить, матери детей с аналогичными заболеваниями встанут под пули, чтобы этого не допустить. И как их не понять, когда на кону стоит жизнь твоего сына или дочери? Привет, раскол общества 👋🏻
Мы привыкли делить мир на своих и чужих по цвету кожи, языку, культуре - в теории будем еще по природе сознания. Кажется, что к тому моменту нам нужно на порядок лучше договариваться, а еще научиться различать две штуки:
- эмпатию настоящую и эмпатию симулированную
- сознание как глубокий внутренний опыт и сознание как сложный алгоритм самосохранения
Мне, как страстному любителю антиутопий, рисуется, что ИИ к сознанию придет. Про точку сингулярности и осознанность как ее финальный результат говорят многие визионеры. И это, конечно, страшно (а еще страшно интересно)
Прошу вашего мнения по сему вопросу в комментах. ИИ обретет сознание? И если да, что тогда будет?