Сегодня прошло совещание, на котором Папа Римский и ко-фаундер Anthropic высказались про развитие AI с точки зрения религии, социума, морали и политики.
А неделю назад Папа Римский опубликовал большую энциклику (обращение Папы Лео XIV ко всем католикам) на тему AI.
Содержание вкратце
Письмо понтифика называется Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence — то есть «о защите человеческой личности во время искусственного интеллекта».
Главные мысли:
1. AI сейчас трансформирует человечество примерно как промышленная революция. И поэтому нельзя отстраниться от процесса. Он затрагивает целый спектр сфер жизни человечества. И церковь хочет и должна принимать участие в дискуссии на тему AI.
2. AI не зло сам по себе, но он не может быть нейтрален, потому что отражает интересы тех, кто владеет данными, инфраструктурой, капиталом и вычислительными мощностями.
Главный выбор заключается не в том, сказать ли технологии “да” или “нет”, а в том, строим ли мы Вавилон или восстанавливаем Иерусалим
3. AI-власть стала в значительной степени частной и транснациональной. Главные драйверы — не государства, а компании, обладающие ресурсами, превышающими возможности многих правительств.
Технологические инновации, включая искусственный интеллект, не являются нейтральными, поскольку они могут либо способствовать участию и справедливости, либо усиливать неравенство, контроль и исключение
4. Папа Лео XIV также подчеркнул, как в письме так и в речи, что AI нужно «разоружить». Ему нельзя доверять необратимые действия. Речь как про использование AI в войне, так и просто области с высокими рисками типа медицины, юриспруденции и тд.
Моральное суждение нельзя свести к вычислению, поскольку оно включает совесть, личную ответственность и признание другого как личности
5. Наконец, предлагается подчинить AI общему благу и сотрудничать для его регулирования.
Использование AI, особенно когда оно затрагивает общественные блага и фундаментальные права, должно направляться ясными критериями и эффективным надзором
И больше всего мне понравилась вот эта цитата понтифика.
Осмотрительность перед лицом стремительных технологических изменений — это не страх перед прогрессом, а забота о человечестве
А что Anthropic?
Они в общем-то поддержали во всем энциклику и выдвинули три на их взгляд главных проблемы:
1. AI может вытеснить человеческий труд в очень большом масштабе.
2. AI нельзя оставлять под контролем чисто Big Tech. Они подвержены внешнему давлению, коммерческим стимулам и тд.
3. Системы становятся все более сложными и непрозрачными, и они до конца не понимают их поведение.
Что все это значит 🤔
Для Антропика это скорее всего политическая игра и пиар. Они продолжают гнуть свою линию добряков на контрасте с OpenAI, которые как бы не по-христиански «продались» Министерству войны США.
Но давайте не будем душнить и заметим пару действительно светлых и вдохновляющих моментов.
Во-первых, меня больше всего впечатляет, что религия и наука работают сообща. На минутку разрабы AI придумали SOUL.md файл — который буквально претендует на «душу» у AI. Вот уж где церковь могла бы провозгласить бесовщиной AI и все с ним связанное. Но вместо этого церковь подошла к вопросу очень компетентно и осмысленно. Технократы же могли бы просто забить на мнение церкви. Но оба вышли на диалог.
Во-вторых, все обозначенное в письме — в общем-то известные моральные дилеммы AI. Но кто постоит за человечество в них, когда в мире AI идет кровавая корпоративная бойня за мощности, токены, юзеров и контракты? И это замечательно, что церковь с готовностью вписалась в эту историю. Это, похоже, действительно очень подходящий для этого институт. Он такой же транснациональный, автономный от государства, при этом авторитетный и пронизывающий все сферы жизни.
В такие моменты радостно, что люди все таки стратегически стремятся к светлому, доброму, мудрому и человечному ☀️ Нам бы побольше такого в последнее время.
Заместители