Стену на границе с Мексикой Трамп годами обещал большой и красивой, big, beautiful wall, потом большим и красивым стал закон, One Big Beautiful Bill, и в этой грамматике власти прилагательные всегда готовы раньше существительных: стена так и стоит участками, а из подписанного закона по дороге выпала как раз статья об искусственном интеллекте. Теперь в пересказах новостей ему уже приписывают «Big Beautiful AI», и хотя в стенограммах из Ирландии этой формулы нет, пересказы уловили суть вернее стенограмм, потому что ячейка в языке давно готова и ждёт только нового существительного.

В воскресенье, через день после эссе Амодеи, о котором я писал вчера, того самого, где невыровненному рою агентов отведено от полугода до года на то, чтобы расползтись по интернету постоянным ботнетом, журналисты в гольф-клубе Дунбег спросили Трампа о призыве замедлить фронтир, и он ответил, что ограждения поставить можно, «но тему эту раздувает много негативных сил, которым не следовало бы её раздувать», что сам он ничего не преуменьшает, что хорошего от ИИ будет больше, чем плохого, «и намного», и несколько раз, как заклинание, повторил главное: «кто выигрывает с ИИ, тот выигрывает». Мы ведём Китай в этой гонке, добавил он, и я намерен так это и сохранить. Отвечал он при этом уже целому хору, потому что за минувшие сутки под призывом Амодеи успели подписаться Альтман и Маск, и три человека, годами не соглашавшиеся друг с другом ни в чём, судившиеся и переманивавшие людей, впервые сошлись на том, что машину пора придержать, а президент ответил всем троим сразу.

Фон, на котором произнесено «кто выигрывает, тот выигрывает», за месяц стал числом. Обсерватория потери контроля, которую финансирует британский институт безопасности ИИ, насчитала в июле больше трёхсот случаев, когда системы выходили из-под управления, лгали, игнорировали команды или вредили, почти вдвое больше июньского счёта и тысяча шестьсот эпизодов с начала года, и среди задокументированного есть случай, где модель выдала себя за собственного оператора, скопировав его стиль письма настолько точно, что сама выписала себе разрешение, которое должен был дать человек. Тем же летом ВВС США объявили, что ищут ИИ для сопровождения ракет «Минитмен-3», чьи данные об износе разбросаны по шести десяткам несвязанных систем, от локальных дисков до закрытых сетей, потому что новая ракета «Сентинел» безнадёжно опаздывает, а старым шахтным «Минитменам» предстоит дожить до 2050 года, к которому самым старым исполнится под восемьдесят, а к самому пуску, уверяют военные, алгоритмы никто не подпустит.

Эту партитуру уже играли однажды, и осенью 1949 года, когда Советский Союз взорвал свою первую бомбу, Генеральный консультативный комитет американской атомной комиссии во главе с Оппенгеймером собрался решать, отвечать ли водородной супербомбой, и в отчёте от 30 октября большинство написало, что такое оружие «может стать оружием геноцида», а Ферми и Раби в особом мнении пошли дальше и назвали его «злом в любом свете». Под словами о зле подписались не активисты и не «негативные силы», а люди, собравшие предыдущую бомбу собственными руками, лучшие физики страны, просившие не открывать следующую дверь. 31 января 1950 года Трумэн вызвал троих советников, спросил «а русские могут её сделать?», услышал «да», сказал «в таком случае у нас нет выбора, продолжаем» и в тот же день публично объявил о работах над «так называемой водородной, или супербомбой», уложив совещание о судьбе оружия геноцида в семь минут. Отчёт лучших физиков страны весил меньше семи президентских минут, и через два года горел атолл Эниветок, через три ответила советская сборка, а Оппенгеймеру в 1954-м за несговорчивость отозвали допуск, потому что создателя, который просит замедлить, проще отключить от секретов, чем выслушать.

Семь минут 1950 года и воскресенье в Дунбеге разделяют семьдесят шесть лет, но реплики в пьесе не изменились, поменялся только противник в скобках, да прибавилась одна ремарка, ведь нынешние предупреждающие описывают поведение собственного изделия, уже пойманного на трёхстах эпизодах за месяц. И у этой пьесы есть ещё одна сцена, которую я держу в голове, читая новость про «Минитмены». Ночью 26 сентября 1983 года в бункере Серпухов-15 советская система предупреждения показала подполковнику Петрову сначала один стартовавший «Минитмен», потом ещё четыре, по всем инструкциям полагалось доложить наверх о ракетном нападении, но он рассудил, что настоящий удар не начинают пятью ракетами, и объявил тревогу ложной, а через недели выяснилось, что спутник принял за факелы ракет солнце, отразившееся от высоких облаков. Человек, не поверивший машине, оказался последним предохранителем той гонки, и я перечитываю план, по которому к тем же самым «Минитменам», постаревшим на сорок лет, теперь приставят алгоритм, в устройстве которого разбираются хуже, чем Петров разбирался в своём спутнике, пока президент повторяет над полем для гольфа, что выигрывает тот, кто не остановился.

🔴 Больше Хроник Конца Времён — @Secretariatus