Есть одна странная вещь.

Люди боятся конца света, но обожают на него смотреть.

Апокалипсис собирает внимание мгновенно. Войны, маньяки, массовые убийства, преступники, разрушенные города, сгоревшее небо, последние выжившие среди руин. Мы говорим себе, что это важно для памяти, анализа, опыта, предупреждения.

Иногда это правда.

Но часто мы просто смотрим, как красиво всё горит.

Кино про войну должно было бы делать войну отвратительной. Но зритель помнит не ужас окопов, а эпичную битву. Фильм про маньяка должен был бы говорить о зле, травме и пустоте внутри человека. Но потом этот маньяк становится поп-культурной иконой, его лицо печатают на футболках, а самые жестокие сцены нарезают в короткие ролики.

Мы слишком часто называем героями тех, кто лучше всех убивает (не) правильных людей.

После Второй мировой войны казалось, что человечество наконец упрется в предел. Появилось оружие, которое способно уничтожить всех. Абсолютный аргумент. Финальная точка в споре о том, стоит ли продолжать решать конфликты через массовую смерть.

Казалось бы, после этого разумный вид должен был сказать: всё, дальше ищем другие способы.

Человечество посмотрело на возможность взаимного уничтожения и решило: рабочая схема, оставляем.

И это, кажется, самая стабильная черта нашего вида. Любое открытие рано или поздно проходит один и тот же тест: можно ли этим убивать.

Геометрия и механика помогают строить осадные машины.

Атом дает энергию, а затем становится образом конца света.

Космос обещает мечту о других мирах, а заодно (точнее прежде всего ) дает способ точнее доставлять смерть в этот.

Теперь у нас есть ИИ.

И снова начинается знакомое движение. Сначала разговоры о творчестве, медицине, образовании, новых возможностях. Потом военные бюджеты, автономные системы, планирование операций, беспилотные машины, оптимизация поражения целей.

Слово “цель” вообще удивительно удобно. Сразу звучит почти аккуратно. Будто речь идет о квартальном плане, а не о живом человеке, которому не повезло оказаться в чьем-то интерфейсе.

Мне хочется верить, что ИИ даст нам шанс стать умнее.

Но есть неприятная деталь: он учится у нас.

На наших книгах.
На наших фильмах.
На наших рынках.
На наших войнах.
На наших желаниях.
На наших оправданиях.

Он видит, какие сюжеты мы любим. Какие технологии финансируем. Каких лидеров выбираем. Какие сцены пересматриваем. Какие слова придумываем, чтобы смерть звучала спокойнее.

И если однажды ИИ начнет делать выводы о человечестве, ему не придется долго искать материалы.

Мы сами всё загрузили.

Самое страшное - что он слишком хорошо поймет нас.

Нам 3.14здец.

UPD. Ролик к посту более 4+ млн просмотров за сутки после опубликования