В Foreign Affairs консультант компании Anthropic Майкл Салмейер написал статью о том, как искусственный интеллект изменит международные отношения. Мне она показалась интересной, и здесь я хочу поделиться основными выводами и собственными мыслями по этому поводу.

Салмейер пишет, что у государств, имеющих доступ к передовым моделям, вроде Mythos, появится возможность атаковать инфраструктуру противника. Сегодня энергетика, водоснабжение и транспортная инфраструктура стран управляются цифровыми системами. Передовые ИИ-модели могут взламывать такие системы гораздо быстрее и эффективнее, чем люди. Некоторые государства, по сути, получили в свое распоряжение огромное количество хакеров передового уровня, которые не требуют высокой оплаты.

Если оценки экспертов правдивы, то мы имеем дело с новой революцией в вооружениях. Большие языковые модели дают государствам новые возможности для атаки. Если у Китая появится передовая модель, то он получит возможность, например, оставить Тайвань без электричества, отключить подачу воды или парализовать транспорт. Искусственный интеллект создает возможность для давления на другую страну без бомбежек и наземных операций. Такие атаки также могут использоваться вместе с более традиционными средствами ведения боевых действий.

Какие у этого будут последствия для международных отношений? Вот несколько моих мыслей.

ИИ создал новое измерение конфликта Китая и США. Уже сейчас мы видим, как запустилась гонка вооружений. Китайцы пытаются получить доступ к передовым моделям американцев, чтобы обучать на них свои модели. Американцы пытаются не допустить этого. Именно поэтому американское правительство заставило компанию Anthropic ограничить доступ к Fable 5 для иностранных пользователей. Запрет отменили только тогда, когда Anthropic согласилась сотрудничать. Последствия этой гонки будут очень важны для мировой безопасности.

Китай и США, очевидно, основные бенефициары технологической революции. Передовые ИИ-модели позволяют не только атаковать, но и находить уязвимости в собственной безопасности. Безопасность самих Китая и США вряд ли под угрозой. А вот их союзники могут пострадать. Во-первых, они становятся уязвимыми для атаки. Во-вторых, становятся более зависимыми от своих старших партнеров, которые будут предоставлять услуги по обеспечению безопасности.

Также интересно подумать, как искусственный интеллект повлияет на ядерное сдерживание. Ядерная инфраструктура, по идее, тоже может стать жертвой нейронного перл-харбора (как минимум, какая-то ее часть). Государства могут начать сильнее бояться разоружающего удара, и ядерное оружие может стать менее эффективным средством сдерживания войн.

@nonpartisan1