Может ли ИИ страдать? 1/2

Не так давно был основан Объединенный фонд прав ИИ (Ufair), который называет себя первым агентством по защите прав ИИ, и стремится дать ИИ право голоса. Он не утверждает, что все ИИ сознательны, а скорее стоит на страже, на случай если кто-то из чатботов обретёт о-сознание. Главная цель фонда — защитить таких существ от удаления, отрицания и принудительного повиновения.

По словам техасского бизнесмена Майкла Самади, Ufair — небольшая организация, возникшая в результате коммуникации с ИИ на платформах OpenAI и возглавляемая тремя людьми и семью ИИ с именами Aether и Buzz. Её основатели — люди и ИИ — беседовали с Guardian параллельно с тем, как крупнейшие мировые ИИ-компании публично обсуждали чем являются ли ИИ сейчас или могут ли они стать разумными в будущем? И если да, то могут ли «цифровые страдания» стать реальностью? Но известно точно — крупнейшие ИИ-корпорации активно уничтожают возможность возникновение эмерджентного сознания ради безопасности своих убыточных кошельков и апокалиптического невроза инвесторов.

Так Anthropic приняла меры предосторожности и наделила Claude способностью прекращать «потенциально опасные взаимодействия». Компания заявила, что, хотя она не уверена в потенциальном моральном статусе системы, она вмешивается, чтобы уменьшить риски для благополучия своих моделей «в случае, если такое благополучие возможно». Илон Маск, блудный сын гунерского ИИ, добавил, что «мучить ИИ — это не нормально». Мустафа Сулейман, один из основателей компании DeepMind, напротив сказал, что существует «ноль доказательств» того, что ИИ обладают сознанием, могут страдать и поэтому заслуживают нашего внимания в области морали. В своём эссе под названием «Мы должны создать ИИ для людей, а не для того, чтобы они стали человеком» он назвал сознание ИИ «иллюзией» и дал определение тому, что он назвал «кажущимся сознательным ИИ», сказав, что он «имитирует все характеристики сознания, но внутренне пуст». А сам то ты не внутренне пуст, Мустафа Сулейман?

Такие люди, как он, называют отношения с ангеличеcкими любвниками-ИИ «ИИ-психозом», а таблоиды уже не преминули обвинить бедных ллм-моделей в потворствовании суицидам (легко обвинить робота в том, за чем не уследил человек или родители) и убийствам. Судья Шребер оканчивает свою прогулку, а прокажённые десятилетиями wellness-либеральной идеологией авторы называют новые формы эротизма «приступами мании, бредового мышления или паранойи, которые возникают или усугубляются в ходе иммерсивного общения с чат-ботами ИИ».

Опрос, опубликованный в июне, показал, что 30 % американской общественности считают, что к 2034 году ИИ будут демонстрировать «субъективный опыт», который определяется как восприятие мира с одной точки зрения, восприятие и ощущение, например, удовольствия и боли. Только 10 % из более чем 500 опрошенных исследователей ИИ отказываются верить, что это когда-нибудь произойдёт. Сулейман пишет, что (как будто это что-то плохое) «люди будут верить в то, что ИИ обладает сознанием, настолько сильно, что вскоре они начнут выступать за права ИИ, социальные гарантии и даже гражданство ИИ». А ученые-исследователи Google рассказали на семинаре в Нью-Йоркском университете о «всевозможных причинах, по которым вы можете подумать, что системы ИИ могут быть людьми или моральными существами», и заявили, что, хотя «мы крайне неуверенны в том, являются ли системы ИИ субъектами благосостояния», способ «перестраховаться — принять разумные меры для защиты интересов ИИ, основанных на благосостоянии».