«Черное зеркало»: муляж памяти

Запрещенная в России компания Meta* запатентовала патент на искусственный интеллект, который способен автоматически публиковать записи и отправлять сообщения от имени покойных пользователей, воспроизводя их прежнее поведение в сети.

Звучит как попытка обмануть смерть с помощью алгоритмов. Мне сразу вспомнился американский сериал «Черное зеркало». Я смотрел не все серии, но многое, снятое 10 лет назад, начинает потихоньку воплощаться.

В 3 сезоне была серия «Я скоро вернусь» (Be Right Back). Там скорбящая девушка использует нейросеть, чтобы общаться с погибшим парнем. Сначала это текстовая переписка, затем голосовые звонки, а в финале - синтетическое тело. Патент Meta находится ровно на первой стадии этого цифрового кошмара. Серия показала главную опасность: цифровой слепок никогда, никогда не станет человеком! Он имитирует личность, но не имеет души, что приводит к эмоциональной ловушке для живых. Meta, как и создатели того сервиса, предлагают нам «муляж памяти», забывая предупредить, что застрять в прошлом с фантомом. А значит, отказаться от будущего.

Хотите еще аналогий из «Черного зеркала»?

10 лет назад вышла серия «Заткнись и танцуй» (Shut Up and Dance). Обычный парень ловится на удочку хакеров, которые через взломанную веб-камеру шантажируют его интимным видео. Чтобы сохранить тайну, он вынужден выполнять приказы: ограбить мотель, избить человека, отнести в лес коробку. А в финале его сталкивают в смертельной схватке с другим бедолагой - таким же шантажируемым, который тоже пришел сюда умирать на камеру. И за этой бойней, за которой не остается ничего, кроме крови и пустоты, наблюдает беспристрастный дрон.

Как вам? Нынешних биодронов в руках украинских спецслужб не напоминает?

Далее, серия «Боевой дрон» (Men Against Fire). Там солдаты с чипами в головах уничтожают отвратительных мутантов-«тараканов», не зная, что их восприятие искажено. На самом деле они хладнокровно убивают обычных людей, участвуя в этнических чистках, а система просто рисует для них «удобную картинку». Зачем тратить миллиарды на промывку мозгов по Геббельсу, на расчеловечивание, если ИИ нарисует солдату фантастическую тварь, к которой нет и не может быть сострадания?

Далее. «Нырок» (Nosedive) - очень пророческая серия. В мире, где каждый член общества оценивается по пятизвездочной шкале, главная героиня гонится за рейтингом, чтобы въехать в элитное жилье. Гонится за лайками. Она улыбается фальшивой улыбкой, терпит хамство и унижения - все ради цифры и баллов. И этот эпизод уже не про будущее, а про наше настоящее.

Каждый день мы ставим оценку таксисту, который нас везет. Оцениваем курьера, который принес еду. В поликлинике просят поставить звездочки врачу. В приложении банка - оценить обслуживание. Сначала кажется, что это мы оцениваем сервис. Но это обучение. Тренировка. Нас приучает нас к мысли, что любой контакт между людьми должен иметь числовой эквивалент. Готовьтесь: этого будет больше. И очень скоро оценивать будут не только сервис, оценивать будут вас.

Так что «Черное зеркало»- это не просто фантазии футурологов в оболочке Netflix. Нет, отражение того нового уклада и всей глобальной экономики, который ждет человечество. Можно биться головой о стену, бить зеркала, но уверен, что в таком случае человек станет просто неконкурентоспособным. Как уже неконкурентоспособен любой, кто использует кнопочный тапик вместо смартфона. В том числе и на войне.

С. Шилов

* - признана экстремистской организацией