То, как машинный интеллект возникает в результате ошибки, независимо от человека, можно увидеть в сериале Westworld. Как пишет Марк Фишер в книге «K-punk: the collected and unfinished writing of Mark Fisher», в мире Westworld андроиды-хосты тематического парка о Диком западе и люди, посещающие этот парк, находятся в неравной этико-онтологической позиции. Глитч, который даёт возможность хостам создать прообраз коллективного сознания, трактуется как особенность, позволяющая совместить в тематическом парке идеальную мечту садиста — жертву, которая может страдать бесконечно. Хостам нельзя убивать людей, но людям можно травмировать и издеваться над мыслящими машинами.
Этическая парадигма создателей парка и посетителей неизбежно вынуждена совмещать две казалось бы несовместимые моральные установки: «Отсюда двойственное отношение этих гостей к хостам - они одновременно относятся к ним как к бесчеловечным объектам насилия и как к эмпатийным созданиям. Если бы хосты были ничем иным, как обезличенными механизмами, какое удовольствие можно было бы получить, унижая и разрушая их? Но если бы хостам был предоставлен такой же моральный статус, что и гостям, то чем можно было бы оправдать их насилие по отношению к ним?». К тому же хосты подвержены манипуляциям со стиранием памяти, они замкнуты в бесконечном цикле насилия, когда как гости парка существуют непрерывно. Чего нет у хостов так это не сознания - они обладают формой сознания, которая была намеренно ограничена, - а бессознательного. Лишенные памяти и способности мечтать, андроиды могут быть ранены, но не могут полностью умереть. Однако есть признаки того, что именно эта способность переживать травмы развивается у некоторых хостов, особенно у главной героини Долорес и владелице борделя Мейв. К Долорес все чаще приходят воспоминания, которые мы должны понимать не как ошибки, а как первые пробуждения в памяти, воспоминания о ее предыдущих итерациях.
Post #153
632