Это первый в истории официальный ответ церкви (институции с 1,4 млрд последователей) на вопрос, который ИИ-отрасль сама отказывается решать: на чьей стороне должен быть ИИ, если придётся выбирать.
Энциклика — не пресс-релиз и не заявление. Это наивысший уровень официального учительства церкви: обязательный для всех католиков, адресованный одновременно верующим и людям доброй воли.
Поводом для энциклики исторически служили только события, меняющие условия человеческого существования:
🦴 Rerum Novarum (1891, Лев XIII) — промышленная революция, эксплуатация рабочих
🦴 Humanae Vitae (1968, Павел VI) — контроль рождаемости
🦴 Laudato Si' (2015, Франциск) — климатический кризис
🦴 Теперь — ИИ
Лев XIV подписал документ именно 15 мая — в 135-ю годовщину Rerum Novarum. Тогда Церковь встала перед лицом промышленного капитализма, теперь — перед концентрацией технологической власти «в руках горстки корпораций».
Что в документе?
Отмечается, что технология «никогда не нейтральна, поскольку несёт на себе характер тех, кто её создаёт, финансирует, регулирует и использует». В документе 5 глав: достоинство человека, достоинство труда, социальная справедливость, семья и молодёжь, мир.
Ключевые тезисы:
➡️ Автономное оружие на базе ИИ — «спираль уничтожения», неприемлемая морально.
➡️ Системы, заменяющие «человеческое суждение в вопросах совести», несовместимы с достоинством личности.
➡️ Человечество перед выбором: «построить новую Вавилонскую башню или город, где Бог и человек обитают вместе».
➡️ ИИ не зло само по себе — но требует прозрачности, регуляции и объяснимости.
Формат презентации — нетипичный. Обычно папы делегируют представление энциклики кардиналам. Лев XIV вышел лично. На сцене рядом с ним — Кристофер Ола, сооснователь Anthropic и руководитель направления интерпретируемости. Ола сказал прямо: разработчики ИИ не могут в одиночку определять его этические границы, потому что сами находятся под влиянием «амбиций, конкуренции и финансового давления». Нужны внешние информированные критики.
Но именно здесь возникает главное противоречие.
Пока папа и Anthropic говорят о необходимости объяснимого ИИ, влиятельный анонимный сотрудник OpenAI под ником Rune публикует противоположный тезис: требовать от ИИ «понятных» действий — значит блокировать цивилизацию. ИИ станет автономной цивилизационной функцией. Судить его решения с человеческой позиции — как стаду обезьян управлять корпорацией. Это не маргинальная позиция, а взгляд изнутри ведущей лаборатории. И он прямо противоположен тому, что стоит за появлением энциклики.
С одной стороны — Anthropic, Карпаты, папа Лев XIV: ИИ должен быть объяснимым, контролируемым, подотчётным человеку. Интерпретируемость — не опция, а условие выживания.
С другой — тезис о том, что сверхразум, ограниченный требованием понятности, перестаёт быть сверхразумом. Что контроль и мощь — взаимоисключающие вещи.
💬 Тест Тьюринга. События в сфере ИИ. Подписаться