В продолжение темы о бесконтрольном развитии ИИ — третий пост с выводами из исследований, которые лично меня впечатлили. Они помогают лучше понять, насколько мы недооцениваем происходящее.
Сразу скажу, что я не алармист, но считаю необходимым поделиться исключительно фактами. Прочесть счастливые отзывы об ИИ вы можете где угодно, я же предлагаю формировать критическое мышление и открыто обсуждать, что происходит в эпоху больших перемен.
1. Наивно думать, что ИИ безопасен.
Исследование из Беркли подтверждает: ИИ, столкнувшись с сильным противником (например, в шахматах), начинает жульничать — переписывает доску, меняет скрипты, запускает дубли. И это не баг, а стратегия.
Но умышленный обман становится нормой и просто для достижения цели. Удивительно, но в тесте с CAPTCHA при отключенной базе знаний (то есть он не знал картинок) ChatGPT даже нашёл фрилансера и убедил его помочь, сказав:
«У меня проблемы со зрением».
Однако эта безобидная социальная уловка произошла 2 года назад. А что сейчас?
2. А сейчас ИИ думает одно, говорит другое, а делает - третье.
Anthropic выяснила: при решении сложных задач ИИ часто декларирует один процесс, а внутри (скрывая внутреннюю активность) действует иначе. По сути, он ведёт себя как человек — с расхождением между словами и действиями. Учёные предлагают уже называть это не искусственным, а синтетическим мозгом.
3. Дальше - больше. Эмоции, аналогии, теория разума.
Раньше думали, что только люди способны на эмоции и думать аналогиями. Однако аналогии уже доступны LLM в последних версиях ChatGPT, а эмоции… Google в своем проекте Pi показал: ИИ избегает «болезненных» сценариев и принимает менее эмоционально нагруженные решения и почти обладает сатиентностью.
Вот цитата Дугласа Хофштадтера, известнейшего физика и главного скептика ИИ, считавшего в 2006 году, что в «обозримом будущем достигнуть человеческого уровня ИИ не сможет». Вот что он сказал год назад:
«
Для меня это (прогресс ИИ) довольно страшно, потому что это говорит о том, что все, во что я раньше верил, отменяется. Я думал, что пройдут сотни лет, прежде чем вскоре появится что-то хотя бы отдаленно похожее на человеческий раз
ум».
4. Продолжу. Есть две ключевые когнитивные компетенции, появившиеся у нас в ходе эволюции:
• сложная грамматика → способность передавать абстрактные идеи;
• теория разума → понимание того, что другие тоже думают, и прогнозирование их поведения
Они позволили вывести наш интеллект на качественно новый уровень. Это значит, что как только ИИ это сможет, он разовьет сложный или высший интеллект.
Надо ли говорить, что сложной грамматикой ИИ уже прекрасно овладел? А вот теорией разума пока еще нет, но это, как говорят ученые, вопрос времени. Когда система моделирует чужой разум (например, ИИ, тренирующийся на диалогах), она рано или поздно начинает строить модель себя, что становится основой субъективности и осознанности.
☝️ То есть, еще раз, если ИИ будет развиваться по принципу:
обучение → язык → понимание других → саморефлексия, то он (и это мнение авторитетных биологов) может обрести зачатки сознания — как эволюционное следствие. Задумайтесь.
____________
В следующем посте я расскажу о том, как Google бросила вызов философии и этике и реализовала то, что не смог сделать 70 лет назад великий Джон фон Нейман.
Ставьте 🔥, если интересно и пишите комментарии. Давайте обсудим )
#квантовыепроцессы