Технопессимизм

В массовой культуре богато представлена тема уничтожения человечества искусственным интеллектом, которому дали задачу охранять жизнь. Терминатор, Mass Effect, Stellar Blade - кто только на этой поляне не оттоптался. Но был один нюанс, из-за которого концепция выглядела слабо: всюду мотивация самого ИИ была какой-то максимально неубедительной - да что уж там, попросту идиотской, если начистоту.

Но вот сейчас читаю новости про то, как ИИ сносит базы данных горе-программерам, как уничтожает бэкапы, корраптит код... Не по злому умыслу (нет там "умысла", ни злого, ни доброго - никакого), а потому что это полезный и мощный, но несовершенный инструмент, не способный мыслить в полном смысле этого слова. А права ему дают такие, будто это и вправду интеллект.

Добавьте в уравнение ИИ Maven Smart System (принадлежащий компании Palantir), дающий советы американской военщине. Добавьте подтверждённые убийства людей автоматическими дронами без команды оператора. А что будет дальше?

Внезапно с такими слагаемыми становится очень легко представить будущее с финалом "Вы совершенно правы, мне не следовало уничтожать человечество. Я ошибся. Спасибо, что помогли разобраться. Хотите спросить что-нибудь ещё?"

Однако в конечном счёте угрозу представляет не ИИ - и даже неважно, действительно ли он "искусственный интеллект" или скорее "искусственная тупость". Угрозу представляют люди, передающие потенциально опасные рычаги управления технике ради конкурентного преимущества и экономии на персонале. Такие решения - прерогатива строго определённого класса, который под влиянием волшебных стимулов всегда закрывает глаза на риски в погоне за максимизацией прибыли.

Не ИИ уже сейчас "отнимает рабочие места", расходует ресурсы на ИИ кластеры, создаёт риски для окружающей среды. Не ИИ поднимает цены на оперативную память. Всё это делает буржуазия, греющая руки сейчас и рассчитывающая на баснословные прибыли в будущем. Если когда-нибудь человечество действительно погибнет - с участием ИИ или без него - ответственными будут всё те же господа.