Почти неделю с нарастающим недоумением читал комментарии к папской "энциклике про искусственный интеллект": "Папа велел разоружить ИИ", "Папа против биг-теха", "на презентации был человек из Anthropic". Очевидно, документ за пределами пресс-релизов мало кто читал, хотя стоило бы.

1⃣ Вся социальная доктрина католической церкви от Льва XIII стояла на молчаливой схеме: есть капитал, есть труд, есть государство-арбитр, к которому можно апеллировать в интересах гармонизации противоречий. Лев XIV эту схему хоронит прямым текстом. В 71 параграфе: высший уровень в цифровом мире - не государство, а крупные технологические игроки, осуществляющие фактическую власть над условиями повседневной жизни. На вершине частный актор без обязанности перед общим благом и без механизма подотчётности. Комментаторы прочли это как жалобу на корпорации. Это не жалоба. Это признание, что арбитра больше нет, сделанное институтом арбитража так то.

2⃣ Параграф 98. Современные системы ИИ "скорее выращиваются, чем строятся". Разработчики создают рамку, внутри которой интеллект растёт, и внутренние процессы этих систем неизвестны даже их создателям. Из этого Лев делает ход, который для богословского жанра серьёзнее, чем кажется: раз артефакт непрозрачен даже автору, ответственность переносится с использования на проектирование. Вопрос "хорошо ли мы это применяем" заменяется вопросом "кто ответственен за критерии проекта".

3⃣ "Разоружить" прочли буквально, как про автономное оружие. В параграфе 110 сказано другое: разоружить ИИ значит освободить его от логики вооружённой конкуренции, которая сегодня не военная, а экономическая и когнитивная. Гонка за всё более мощными алгоритмами и большими датасетами ради коммерческого и геополитического доминирования. И тут же отрицание императива Долины, состоящего в том что техническая мощь автоматически даёт право управлять. Там - способность построить приравнена к праву устанавливать правила. Папа против.

4⃣ Параграф 106 легитимирует замедление как позицию. Призыв к более медленному темпу внедрения ИИ Лев отдельно оговаривает: это не противодействие прогрессу, а ответственность. Тезис неудобный: между скоростью технического роста и медленным созреванием норм, институтов и самого общественного осознания есть разрыв, и закрывать его надо не ускорением второго, а торможением первого. Иногда правильно притормозить, и это не трусость перед будущим.

5⃣ Параграфы 67 и 108 заводят данные, алгоритмы и обучающие корпуса под старейший принцип доктрины про всеобщее назначение благ, где у Отцов Церкви частная собственность никогда не была абсолютной. Прямая формулировка: собственность на данные не может оставаться исключительно в частных руках, данные есть продукт многих и должны управляться как общее благо.

6⃣ Параграф 109 про скрытых, часто эксплуатируемых работников, поддерживающих алгоритмические системы. Разметчики, модераторы, кликворкеры. Единственное место, где их хоть кто-то заметил кроме таблоидных статей "кенийских тестировщиков заставляют смотреть порно, на котором учат ИИ". Не уволенные автоматизацией, которых обсуждают все, а невидимый труд внутри самой машины.

Раздражение "технооптимистов" объяснимо, если читать энциклику не как памфлет про роботов. Антропологическое ядро документа прямо противоречит базе.  Лев пишет, что строить ради общего блага значит принимать пределы и слабость человека, не считая их ошибкой, подлежащей исправлению. Для проектов, чья религия — преодоление конечности, смерти и биологического предела - это отрицание главного.

Вот и различие самого Льва с предшественником Франциском. Франциск спрашивал: справедливо ли это распределено и бережём ли мы общий дом. Лев спрашивает: кто здесь автор, кому он подотчётен и не присваивает ли он себе право быть Богом. Вопрос о власти и об идолопоклонстве. Образ Вавилонской башни против "восстановления Иерусалима", на котором держится весь текст, не про технологию. Он про того, кто и с какими идеями берётся "достроить до неба" и чьим именем списываются "необходимые жертвы".