Эрик Шмидт о будущем войны и ИИ

Бывший глава Google Эрик Шмидт в интервью The Economist рассуждает о том, как ИИ меняет военное дело и международную безопасность.

1. Технологическое преимущество приходится постоянно восстанавливать.

По оценке Шмидта, Россия значительно ускорила оборонные инновации и приблизилась к украинскому темпу внедрения улучшений, сохраняя преимущество в ресурсах. Представление об Украине как неизменно более быстром технологическом новаторе он считает устаревшим. Удачная разработка даёт временное преимущество: противник адаптируется, и цикл приходится проходить заново.

2. Изобретательность должна подкрепляться промышленным масштабом.

Для Украины Шмидт считает критически важными внешнее финансирование и помощь в массовом производстве. Европе предлагает перестраивать оборонную промышленность, в том числе лицензируя украинские разработки. Сохранение рабочих мест, по его мнению, совместимо с переобучением людей и изменением выпускаемой продукции.

Китай имеет другую проблему: огромные производственные возможности сами по себе не заменяют опыта реального применения. Значение имеет постоянная обратная связь между разработчиками, производством и теми, кто использует технику.

3. Большую роль ИИ Шмидт видит в работе штаба.

Автоматизация наведения решает лишь часть задач. Более широкий потенциал — у систем, которые объединяют разведывательные и другие данные, анализируют обстановку, помогают распределять ресурсы и разбирать причины неудач. Такой помощник должен сам обнаруживать проблемы, предупреждать командование и предлагать варианты действий.

4. Законы войны и личную ответственность никто не отменял.

Здесь начинается самый острый спор интервью. Шмидт требует участия человека в каждом военном решении. Команда ИИ «атакуй страну и доложи, когда закончишь» недопустима: система может выбрать средства, ведущие к массовым военным преступлениям. Нужны конкретная допустимая военная цель, ограничения во времени и пространстве и человеческое одобрение.

Интервьюер возражает: командиры опасаются полной автономии, но считают, что не смогут отказаться от неё, если противник начнёт её применять. Более свободный в своих действиях ИИ может получить преимущество в скорости и эффективности.

Шмидт эту логику не принимает: решение, по его словам, состоит в помощи Украине, а не в совершении военных преступлений. Он напоминает о Нюрнбергском процессе и персональной ответственности, которая может наступить после окончания войны. Борьба на выживание, в его понимании, не снимает ограничений.

Принцип Шмидт защищает твёрдо. Но вопрос интервьюера о немедленном преимуществе противника, готового отказаться от ограничений, остаётся напряжённым: ответом становится необходимость внешней помощи, а механизм обеспечения соблюдения правил подробно не раскрывается.

5. Общей паузы в развитии ИИ он не ожидает.

Государства и компании боятся уступить конкурентам, а соблюдение ограничений трудно проверить. Поэтому развитие возможностей ИИ и средств контроля над ним должно идти одновременно.

Соперничество США и Китая касается и повседневной жизни: чьи модели будут помогать людям искать информацию и принимать решения? Принадлежность этого интеллектуального посредника становится геополитическим фактором. Одновременно нужны договорённости, снижающие риск непреднамеренной эскалации при взаимодействии автономных систем.

Для меня здесь особенно важен вопрос о содержании человеческого контроля. Если ИИ собирает данные, определяет угрозы и предлагает варианты действий, то он влияет на решение ещё до его утверждения человеком. Право нажать кнопку мало значит без способности проверить рекомендацию, увидеть альтернативу и возразить машине. Иначе человек рискует сохранить ответственность, постепенно утрачивая самостоятельность суждения.

Повышение точности отдельного действия может сопровождаться ростом общего масштаба разрушений. Удешевление, массовость и ускорение применения способны перевесить выигрыш от уменьшения числа ошибок. Техническое совершенство оружия само по себе не делает мир безопаснее.