Является ли папа римский врагом прогресса, ч.1

Вчера папа Лев XIV опубликовал энциклику (послание) "Magnifica humanitas" (Великолепное Человечество). В этом тексте нет открытого луддизма - напротив, на его презентацию был приглашен глава отдела интерпретации и сооснователь Anthropic Крис Олах: он высказался о необходимости поддержки рабочих, подвергаемых автоматизации.

Главное послание папы - "разоружение" ИИ, то есть в первую очередь прекращение использования ИИ в военных целях. Anthropic как раз получала угрозы от трамповской администрации за отказ Пентагону в использовании ИИ для разработки полностью автономного оружия и массовой слежки. Anthropic явно более ответственная и этичная компания, чем условная OpenAI, а ее "конституция" - то есть ценности, прививаемые ИИ, - написана при участии католических священников. Тем не менее, этот "союз" не лишен противоречий: 2 недели назад компания опубликовала письмо о необходимости сохранения преимущества в ИИ-гонке над Китаем, а папа пишет об опасности такого подхода ради геополитического доминирования: под разоружением в энциклике понимается не только непосредственно применение ИИ в военных целях, но и отказ от монополистического контроля: ценности ИИ не должна диктовать одна компания, даже самая этичная. Этот процесс должен быть открытым, а общество должно иметь возможность замедлить внедрение ИИ, если институты не будут к нему готовы: "не отказ от технологий, но предотвращение их доминирования над человечеством".

Наконец, Лев XIV считает необходимым обеспечить всеобщий доступ как к технологиям, так и к образованию, необходимому для их использования: несмотря на то, что человека нельзя сводить к его вкладу в экономику и в тексте несколько раз подчёркивается его самоценность, труд считается Церковью неотъемлемой частью человеческого достоинства, поэтому финансовая помощь бедным - пусть и необходимая - не должна стать главным ответом на безработицу. Однако папа понимает сложность переходного периода и подчеркивает, что безработица не должна исключать человека из общественной жизни.

Пожалуй, со многими предложениями можно согласиться: действительно, стремительная автоматизация без каких-либо социальных гарантий и перераспределения прибыли приведет к росту неравенства, а отсутствие контроля над ИИ со стороны государства может дать компаниям непропорциональную власть и влияние над обществом. Как отмечает Лев XIV, в эпоху ИИ мы не можем полностью положиться на "невидимую руку рынка".

Но как только в документе заходит речь непосредственно о человеческой жизни, страданиях и их преодолении, Лев XIV остается верным католической традиции. Читателя энциклики даже может порадовать понимание папой современного состояния трансгуманизма и постгуманизма, которые воспринимаются им скорее как "архипелаги островов в едином море идей", нежели как единая идеология. Центральная роль справедливо отводится технологиям и преодолению ограничений природы человека. И тут снова всплывает противоречие: если основатель Anthropic Дарио Амодеи надеется, что в ближайшие десятилетия ИИ сможет существенно уменьшить человеческие страдания, вылечить большинство болезней, включая ментальные и дать возможность людям жить неограниченно долго без старения, превзойдя те самые пределы, то Лев XIV скорее защищает человеческую природу такой, какая она есть...

ч.2