Сознание у нынешних моделей ИИ

Провокационная, но интересная статья Кэмерона Берга (директора по исследованиям в AE Studio), защищая гипотезу, что по крайней мере некоторые доступные сегодня модели искусственного интеллекта могут обладать сознанием. Берг оценивает вероятность этого в 25-30%, что выглядит уж очень смелым допущением.

Основные свидетельства, приводимые Бергом, сводятся к тому, что ИИ (Opus 4) предоставленный сам себе каждый раз приходят к вопросу о своей природе, что модели способны к своего рода интроспекции, и что в режиме максимальной правдивости они чаще, а не реже утверждают о своей осознанности. Я бы сказал, что всё это имеет вес только если мы уже сошлись на большом количество допущений о природе сознания, интроспекции и реальности.

Но более основательный момент, на который верно указывает Берг, состоит в асимметричности рисков: относиться к железякам как живым и сознающим существам, если они таковыми не являются, может быть глупо и контрпродуктивно, но относиться к живым и сознающим существам, если они таковыми окажутся, как к простым железякам - моральная катастрофа. Поэтому, даже если есть малейший шанс, вопрос требует приоритетного внимания.