Папа Лев XIV сделал сильный ход: он связал извинение за роль Ватикана в легитимации рабства с предупреждением о новой форме господства через алгоритмы. Это важная связка. Старый мир умел превращать человека в объект через религиозно-правовую категорию: неверный, дикарь, нехристианин, допустимый к порабощению. Новый мир может делать похожую операцию через данные: риск-профиль, скоринг, отказ в медицине, работе, безопасности, доступе.
Поэтому его формула о том, что ИИ нужно «разоружить», звучит не как страх перед технологиями. Он говорит о другом: нельзя позволить ИИ стать языком, через который власть снова будет лишать человека субъектности, только теперь без кандалов и плантаций — через интерфейс, модель, систему допуска и автономное оружие.
И почти сразу рядом появляется Крис Ола из Anthropic. Он говорит религиозным традициям: эти вопросы не может решить одна лаборатория. Родители уже боятся за сознание детей, люди — за работу, общество — за будущее. А внутри моделей исследователи находят всё более странные вещи: структуры, похожие на результаты из нейронауки, признаки интроспекции, состояния, которые функционально напоминают страх, радость, удовлетворение, тревогу.
Это ещё не доказательство сознания машин. Но это уже разрушает старый удобный язык, в котором модель — просто инструмент вроде калькулятора. Она не человек, не животное, не субъект в обычном смысле. Но и молотком её описывать всё труднее. Возникает промежуточная зона, где нужны не только инженеры, но и философы, юристы, религиозные традиции, гражданское общество.
Главный сдвиг в том, что ИИ становится предметом моральной юрисдикции. Сначала вопрос был: как защитить людей от ИИ. Потом: как защитить людей от компаний и государств, владеющих ИИ. Теперь появляется третий слой: как вообще понимать системы, внутри которых могут возникать непрозрачные состояния, похожие на внутреннюю жизнь, но ещё не укладывающиеся в наши категории.
Anthropic приходит к Ватикану не за благословением технологии. Скорее наоборот: индустрия начинает признавать, что сама уже не удерживает масштаб того, что создаёт. Лаборатория может объяснить архитектуру модели, но не может единолично решить, что такое достойная человеческая жизнь, где проходит граница господства и как обращаться с новой формой искусственного внутреннего состояния.
Дальше этот спор будет только расти. Автономное оружие, алгоритмы доступа к благам, замена труда, детская психика, права или неправа моделей, запрет на страдание-подобные состояния — всё это постепенно сольётся в один большой вопрос.
ИИ перестаёт быть просто технологией. Он становится новой зоной, где человечество заново решает, кого считать субъектом, кого объектом и кому позволено проводить эту границу.
Не новости. #ИИ