Теме искусственного интеллекта и рисков, связанных с развитием цифровых технологий, посвящена энциклика Папы Римского Льва XIV Magnifica Humanitas («Великолепное человечество»).

В СМИ стало общим место упоминать, что энциклика обозначила раскол между американским президентом Трампом и американским Папой (напомним, Лео XIV по происхождению американец). «… это упрек в адрес технологической революции, зародившейся в США и поддержанной президентом Трампом, который обрушился на понтифика за критику войны в Иране.
Акцент папы Льва на угрозах человеческому достоинству и его неприятие автономных систем вооружения ставят его в оппозицию технооптимистам, которые утверждают, что ИИ положит начало революции производительности и что США должны использовать свои достижения в военных целях раньше, чем это сделают такие соперники, как Китай», – оценивает политическую подноготную The Wall Street Journal.

Энциклика содержит в себе критику трансгуманизма, бесконтрольного развития искусственного интеллекта, попыток усовершенствовать человеческую природу с помощью технологий, а также автономного военного использования ИИ.

Однако в документе Папа стремится всеми силами дать образ позитивного технологического развития человечества под эгидой католической церкви. В этом ему, к слову, решил помочь Кристофер Олах, сооснователь компании Anthropic, разработавшей нейросеть Claude, который участвовал в оглашении энциклики.

Примечательно, что перед публикацией энциклики с Ватиканом активизировала контакты Кремниевая долина. А 29 апреля представители технологических гигантов Google, OpenAI, Amazon, Meta (компания признана в РФ экстремистской) и др. встречались за закрытыми дверями с ватиканскими прелатами в посольстве Франции.

Папа Римский цитирует в энциклике блаженного Августина, тем самым разоблачая главный смысл своего собственного опуса: «Итак, два града созданы двумя родами любви: земной – любовью к себе, дошедшею до презрения к Богу; небесный – любовью к Богу, дошедшей до презрения к себе».

«Как и на протяжении всей истории, эти две любви продолжают бороться за господство в наших сердцах и сегодня. Эпоха искусственного интеллекта не стала исключением: строительство Вавилона или восстановление Иерусалима начинается внутри каждого из нас», – пишет Папа.

Однако на протяжении всей энциклики пытается эти два града объединить, призывая регулировать развитие ИИ и технологий.
Кажется, для ключевой мысли энциклики лучше подошла бы иная, далёкая от христианства цитата: «Не можешь остановить процесс – возглавь его».

Но в основе этого дискурса вокруг ИИ лежит западноевропейское отношение к технике – технопессимизм, который зародился после Великой схизмы, когда католики взяли курс на отчуждение от тела, на противопоставление тела и души. Эта дихотомия перенеслась и на технику. Постепенно в западной культуре зародился страх перед техникой как иным, отторжение от неё (можно вспомнить в этой связи хорроры про восстание машин). При этом техническое развитие резко противопоставлялось душе и духовному – техника, действительно, на Западе в определённом смысле восстала против человека.

Между тем, для православной цивилизации свойственно другое отношение – технореализм, который позволяет включить технику во внутренний обиход человеческой жизни.

Что же касается ИИ, то это вопрос непростой. Патриарх Кирилл, к примеру, высказывался о нём даже пожёстче папы, предупреждая, что эта технология может ускорить приближение конца человечества, если займёт неподобающее место: «Ведь это интеллект, а не душа, а нравственность — измерение духовное. Духовного измерения в искусственном интеллекте не будет — только рациональное начало... Никакого нравственного закона в мире искусственного интеллекта не будет, а это самое страшное, что можно себе представить. Ум есть, а совести нет. Что происходило, когда приходили к власти страшные люди, у которых был ум, а совести не было?».

Но именно это и пытаются сделать на Западе сегодня, передавая политическую и военную власть ИИ, как будто пытаясь реализовать сценарии антиутопий.