Решил почитать нашумевшую энциклику Magnifica humanitas папы римского Льва XIV. Небольшая брошюра в 72 страницы (на русском) представляет собой целостное социальное учение Церкви для эпохи, когда в человеческую жизнь все больше и больше проникает ИИ. Сам ИИ не определяется папой в качестве зла, и тем более ему не придается субъектности. ИИ — это технология, а техника же является «подлинно человеческой реалией, связанной с автономией и свободой человека». Как и свобода, технология может быть использована человеком не только во благо.
В связи с этим меня в тексте привлекли рассуждения о соотношении ИИ, и современной технологии в целом, и власти. В прошлом году в Европейском мне довелось участвовать в обсуждении проекта технологической республики одного из основателей Palantir — Александра Карпа. Если вкратце, то проект Карпа представляет собой сращивание Big Tech и ВПК США с целью максимизации военной мощи. Политическая же форма по сути представляет собой олигархическое правление, где первое место занимают, конечно же, люди когорты Карпа и Питера Тиля. Вот краткие тезисы от самого Palantir, вот саб на реддите с обсуждением, а это статьи (1,2) в Jacobin про сращивание силиконовой долины с армией.
Я пытался посмотреть на технологическую республику с точки зрения левого республиканизма. Технология, как и все в мире, подвержена коррупции, которую следует понимать в античном смысле — как неизбежный процесс упадка. Олигархия — есть коррумпированное выражение аристократического правления. Проект Карпа — коррумпирован в своем основании, поскольку предполагает совпадение олигархического элемента и конститутивного доминирования немногих.
Доклад мой вышел так себе, и мне не удалось нащупать какое-то главное напряжение. И вот в тексте энциклики я, кажется, нашел то, что хотел сказать. Лев XIV пишет, что стремление tech bros управлять миром, убеждать других в истинности своих суждений, основанных на мнение о собственном величии, есть
«... чистая власть, существующая отдельно от истины: она сама исподволь или явно навязывает другим то, что хочет считать истинным».
Истина же:
«истина — это общее благо, а не собственность власть имущих и не фикция».
Решение однако, согласно энциклике, лежит в процессе вовлечения людей в процесс формирования истины, что в целом представляет собой попытку оправдания делиберативной демократии, отживающей свой век. Но я пока не дочитал документ полностью, поэтому могу ошибаться. Но кажется, что рецепты перевода ИИ на путь истины надо искать не в политике, но в экономике и праве: радикальном изменении прав собственности на код и запрете использования ИИ в военных целях. А до тех пор мы будем ведомы лжепророками.