В целом, знакомство с ЭА сделало меня еще большим сторонником эгоизма и капитализма. Наша задача не в том, чтобы сделать людей более альтруистичными, а в том, чтобы через институты эгоизм работал на общее благо. Вспоминая бессмертное из Адама Смита, «Не от благожелательности мясника, пивовара или булочника ожидаем мы получить свой обед, а от соблюдения ими своих собственных интересов. Мы обращаемся не к их гуманности, а к их эгоизму, и никогда не говорим им о наших нуждах, а об их выгодах.». Будет много денег — будем много жертвовать на благотворительность. Проблема не в нехватке альтруизма. Проблема в медленном экономическом росте, а местами даже и в отрицательном.

Что касается сферы регулировании ИИ — опора исключительно на улититаризм как способ моральных рассуждений делает позиции ЭА заметными в медийном пространстве, но также очень уязвимыми для критики. Ничтожный катастрофический риск, помноженный на очень длинный временной горизонт делает так, что даже крошечный шанс катастрофы начинает оправдывать очень серьезное регулирование. Мне кажется, нам не надо заглядывать так далеко в будущее, у нас нет для этого достаточно надежных способов. Это как у Толкиена в Палантир смотреть, мы только себе навредим.

Особенности устройства человеческой психики заставляют нас преувеличивать будущие риски и дисконтировать будущие выгоды слишком сильно. У нас огромный optimism bias в сторону себя — но такой же огромный pessimism bias в сторону общества: «Я буду в порядке, но цивилизация катится в тартарары, надо срочно что-то делать». Но регулирование дорого обходится, оно реально замедляет экономический рост. Люди страдают прямо сейчас от этого. С отдаленными рисками мы разберемся по ходу.