Хуанг (Nvidia) говорит, AGI уже здесь. Амодеи (Anthropic) обещает модель «на шаг вперёд». Альтман (OpenAI) — что интеллект станет коммунальной услугой, как электричество. Все в марте.

Как в этом жить — не знает никто. Два человека попробовали ответить.

Бостром, философ из Оксфорда, написал книгу о мире, где AI решил все проблемы. Болезни, бедность, скуку — всё. И обнаружил проблему хуже бедности: ты не нужен. Не «нет работы» — а всё, что ты мог бы делать, машина делает лучше. Ты не бедный. Ты лишний.

Но Бостром оптимист. Лишний не значит несчастный. Красота, переживание, очарование миром, ощущения, которых пока не существует. Смысла нет. Кайф — есть.

Ловушка: наша психика заточена под борьбу. Ощущение цели завязано на препятствия. Убери их — и рай ощущается как пустота.

Хансон, экономист из George Mason, убеждённый либертарианец, ответил иначе: неправильный вопрос. Не ты решаешь, как жить. Решает экономика.

Люди собирали еду — и ценили щедрость, свободу, равенство. Начали пахать землю — стали ценить послушание, иерархию, религию. Пришла индустрия — свобода вернулась. Не потому что кто-то выбрал. Потому что изменился способ зарабатывать — и ценности подстроились.

Следующая стадия — цифровые копии мозгов. Сканируешь лучший мозг, запускаешь на сервере, копируешь миллион раз. Ценности снова подстроятся — не под то, что хочется, а под то, что нужно. 400 страниц расчётов. Никакой философии.

Если вынуть из модели Хансона лейбл автора — это ровно Маркс. Стадии, экономика определяет ценности, неизбежность, финальная стадия — один в один. Марксист-ленинист в костюме либертарианца.

Где мы сейчас? Один говорит: может быть прекрасно. Другой: не тебе решать. Разбираться придётся на ходу, и до того как будем реально готовы.