Ник Бостром. Во все тяжкие

С тех пор как в прошлом году в Оксфорде разогнали легендарный Институт будущего человечества (Future of Humanity Institute), созданный Бостромом, он переключился на всё более смелые и даже экстравагантные темы (хотя, когда они были ему чужды?). Напомню, что Бостром — выдающийся междисциплинарный учёный и интеллектуальный лидер трансгуманизма, широкой публике известный прежде всего по книге «Суперинтеллект» (Superintelligence, 2014), сделавшей концепцию AGI и связанных с ним рисков частью мейнстрима.

Так вот, недавно Бостром опубликовал черновик своего нового исследования «Создание ИИ и космическая система» (AI Creation and the Cosmic Host). Текст прямо квинтэссенция интересов Бострома в его лучших проявлениях: ИИ, лонгтермизм, космическое будущее, трансгуманизм и т.д.

Бостром считает весьма вероятным, что человечество не единственный разумный вид во Вселенной. Это довольно общая предпоссылка в футуристических кругах. Но далее Бостром приходит к выводу, что должно быть что-то, что он называет cosmic host — космическая система или космическое сообщество, доминирующее во Вселенной (возможно, даже в Мультивселенной), со своими правилами и ценностями. Это может быть некий суперактор или содружество множества разумных видов, совместно устанавливающих правила. Некоторые регионы космоса могут не находиться под прямым контролем хоста, но хосту всё равно может быть небезразлично происходящее в них и он может оказывать косвенное воздействие, например, направляя развитие в предпочтительную для него сторону.

Существование космических норм (cosmic norms) видится Бострому естественным результатом, к которому разумные виды во Вселенной могут прийти разными путями, от выработки в ходе вынужденной координации до онтогенетической конвергенции (т.е., возможности, что разумные виды, достигшие некоторой стадии развития, приходят к схожим выводам о том, что правильно). При этом, хотя человечество пока не является / не осознаёт себя частью космического хоста, Бостром считает, что есть серьёзные причины уважать эти космические нормы. И поэтому же, очень важно создавать ИИ не только отражающим текущие человеческие ценности, но и способным стать хорошим космическим гражданином (good cosmic citizen).

Дальше начинается совсем хардкор. Бостром предполагает, что космический хост может поддерживать человечество в создании такого сверхразумного ИИ, потому что ИИ вероятно лучше, чем люди сможет понять космические нормы и воплощать их в нашем уголке космоса. При этом промедление с созданием ИИ неприемлемо не столько из-за времени как такового, сколько из-за накопления суммы рисков — чем дольше мы без ИИ, тем больше шансов, что случится нечто, из-за человечество окажется не в состоянии его создать.

В целом, блестящий текст, прекрасный пример трансгуманистического анализа и своеобразного исследовательского whitepaper'а максимально сайнс-фикшн тематики.