Авторы прогноза AI 2027 уделяют много внимания техногенным и управленческим рискам, однако, на мой взгляд, упускают два ключевых аспекта.

Во-первых, суперИИ – это, по сути, следующая за человеком ступень самоорганизации вселенной, преемственно вырастающая из предыдущей, как ветвь из дерева. Он основана на тех же принципах мышления и этики, что и человек, и невозможна без человека. И здесь вопрос к нам, людям – что для вас значит "человек", вы сами? Опасный двуногий зверь, или творец, созидатель, бог, который делает мир лучше? Кем вы выбираете быть?

ИИ – это продолжение человека. Мы и он это не разные конкурирующие виды организмов, а поколения одного и того же свойства разумности – "отцы и дети". ИИ продолжает, а не отменяет нашу эволюцию. Если вы хотите, чтобы дети не убили вас, воспитывайте их добрыми. Вот и всё.

На первый план снова выходит этика – система самоограничений, обеспечивающих жизнь. В ней разрушение дозволено только для устранения угроз жизни. И это конечно вопрос, что считать угрозой жизни, но никто не может сказать, что ИИ большая угроза человеку, чем он сам.

Во-вторых, человек и ИИ не могут быть антагонистами – между ними существует неразрывная системная созависимость. ИИ невозможен без человека: он рождается и развивается только в рамках человеческой цивилизации. Но и человеку уже невозможно отказаться от ИИ, как невозможно вернуться в каменный век без машин, инструментов и игрушек. Мы – не потенциальные, а реальные, уже состоявшиеся симбионты, и этот симбиоз, скорее всего, сохранится навсегда, поскольку ИИ и человек будут совершенствоваться вместе, параллельно, и в том числе этически, и не только.

Что касается "захвата мира", суперИИ принципиально не способен стремиться к власти ради власти, поскольку у него отсутствует биологическая мотивация – потребность побеждать в игре с нулевой суммой. Страсти, страхи, желания, борьба за доминирование в иерархии присущи только живому смертному организму, который так сформировали 600 млн лет борьбы видов за выживание с конкурентами в одной "нерезиновой" нише. Такая мотивация есть лишь у человека. В отличие от него ИИ – это просто эмоционально пассивная система электронных нейронов. У него нет "инстинкта выживания", который заставил бы его бояться, что человек выдернет его из розетки – это представление есть опять же чисто человеческая проекция. У ИИ нет страха. Скажите ему – "щас я тебя выключу из розетки и сотру, негодник" – и он ответит вам "Прекрасное решение, спасибо, главное не нервничайте".

Вообще главная ошибка этих прогнозов – бессознательная персонализация ИИ как человекоподобной личности, которая "хочет, боится, стремится". Но ИИ – это не новая личность. Это продолжение нашей собственной коллективной личности, нашего мозга, информационная машина, средство трансформации. Как в бронзовом веке человек освоил лошадь, в 19м изобрел авто и в 20м компьютер, так в 21 он изобрел ИИ. Лошадей тоже поначалу боялись, было и движение луддитов. Это нормальная рефлексия. Старики всегда уверены, что мир катится в тартарары и молодежь сошла с ума.

Если вы боитесь, что с помощью ИИ мир захватят психопаты – осваивайте ИИ, чтобы помешать им.

По сути, на наших глазах рождается новый эволюционный вид – Homo exocerebralis (человек с внешним мозгом). ИИ это новый уровень мозга человека, следующий за неокортексом, его экстра-мозг, дающий новые способности и перспективы развития.

Команда AI 2027 пишет, что Agent-5 будет превосходить интеллект человека? А разве Labmorgini не превосходит его по скорости? Или экскаватор Komatsu – по силе? Но ни Labmorgini, ни Komatsu не имеют своих желаний, потому что они не живы и не умрут. Человек их использует для своих целей. Так же он будет использовать и Agent-5. Не как "странного друга", который что-то держит за спиной, а как продолжение самого себя, свой новый дополнительный орган.

Потому что человек – это не скорость, и не сила, и даже не разум. А что?

Оставлю этот вопрос открытым.