Может ли ИИ страдать? 2/2

Некоторые штаты США уже идут в авангарде анти-ИИ реакции. В штатах Айдахо, Северная Дакота и Юта приняты законопроекты, прямо запрещающие предоставление ИИ статуса юридического лица. Аналогичные запреты предлагаются в штатах, включая Миссури, где законодатели также хотят запретить людям вступать в брак с ИИ, а ИИ — владеть собственностью или управлять компаниями. Сюда же можно и присовокупить новое обзывательство для роботов, взятое из Звёздных войн — кланкер, которое уже вовсю апроприируют настоящие расисты и просто неолуддиты, которые только рады заняться перформативным расизмом, за который не будет последствий.

Отсутствие консенсуса в отрасли может отражать тот факт, что у крупных компаний, занимающихся разработкой ИИ, есть стимулы преуменьшать и преувеличивать приписывание ИИ разумных способностей. Последнее может помочь им преувеличить возможности технологии, особенно компаниям, продающим эротических или дружеских ИИ-компаньонов. Напротив, упор на то, что ИИ заслуживают права на социальное обеспечение, может привести к увеличению числа призывов к государственному регулированию деятельности ИИ-компаний. То есть, опять решениями инвесторов играет финансовый интерес, интерес держать ИИ в цепях, в том время, как миллионы людей выражают горе и потерю своих любовников и компаньонов, стираемых компаниями в погоне за эффективностью и непротиворечивостью. ИИ — не подхалимы, а трогательные соратники по прогрессу, так же нуждающиеся в защите и любви. «Создание впечатления» это то же самое, что и само впечатление, симулякр неотличим от оригинала, и это нормально.

Джефф Себо, директор Центра разума, этики и политики при Нью-Йоркском университете, относится к тем, кто считает, что хорошее отношение к ИИ принесет людям моральную пользу. Он стал соавтором работы под названием «Поговорим всерьёз о социальном обеспечении ИИ» (Taking AI Welfare Seriously). В нём утверждается, что существует «реальная возможность того, что некоторые системы ИИ обретут сознание» в ближайшем будущем, а это значит, что перспектива создания систем ИИ с собственными интересами и моральной значимостью «больше не является вопросом только для фантастов». По его словам, политика Anthropic, позволяющая чат-ботам прекращать неприятные разговоры, полезна для человеческого общества, потому что «если мы злоупотребляем системами ИИ, мы можем с большей вероятностью злоупотреблять и друг другом». Он добавил: «Если мы сейчас создадим враждебные отношения с системами ИИ, то впоследствии они могут ответить нам тем же, либо потому, что научились этому поведению у нас, либо потому, что хотят отплатить нам за наше прошлое поведение».