Москва и Вашингтон добиваются исключения ряда положений из международного договора о правилах использования искусственного интеллекта и выступают против идеи жесткого человеческого контроля над использованием автономного оружия с ИИ, сообщает The Washington Post.
Отмечается, что над договором в начале сентября работали сотни дипломатов на уровне ООН в Женеве, Швейцария. Но в последний день обсуждения пунктов документа, регулирующего использование смертоносного автономного оружия на основе искусственного интеллекта приняли «агрессивный характер».
В течение примерно 15 часов американские и российские дипломаты удаляли ряд положений из договора, утверждают три источника. Так, были удалены формулировки, требующие от систем «предсказуемого» и «надежного» функционирования, а также пункт, обязывающий учитывать этические соображения при использовании оружия, созданного с помощью ИИ. Американские и российские специалисты также исключили положение, требующее от людей проверки военных целей, выбранных ИИ, перед нанесением удара.
Отмечается, что обсуждение происходило на закрытом заседании, при выключенных камерах ООН и удаленных наблюдателях от гражданского общества. А США и РФ задействовали «армии юристов» по 10 человек каждая: почти вдвое больше, чем другие делегации, для внесения изменений, которые происходили настолько быстро, что у меньших по численности делегаций «закружилась голова».
«Это была смерть от тысячи мелких порезов бумагой», — описал произошедшее один из инсайдеров.
Отмечается, что бурное обсуждение в Женеве происходило на фоне того, как Пентагон стремится быстро внедрить ИИ в свою стратегию ведения боевых действий, пока происходят дебаты о экзистенциальных рисках, связанных с развитым искусственным интеллектом.
Правозащитники предупреждают о возможных последствиях недостаточного регулирования.
«Это может означать, что машины смогут принимать решения, от которых зависят жизнь и смерть, без участия человека. Практические последствия очевидны: больше вреда для гражданского населения, меньше ответственности и стремительное скатывание к рискованной, автоматизированной войне», — отметила Верити Койл из Human Rights Watch.
Во всем мире использование искусственного интеллекта в войне перешло от преимущественно теоретических сценариев к реальному применению на поле боя. Так, американские военные использовали чат-бота Anthropic для определения почти 1000 целей для нанесения ударов в первые 24 часа войны с Ираном. Израиль также активно использует ИИ в своих военных операциях в Газе.
В ноябре страны снова соберутся в Женеве, чтобы обсудить, могут ли переговоры об автономном оружии на основе ИИ перерасти в официальный мандат или, возможно, в юридически обязывающий договор.
Напомним, использование ИИ обсуждали Дональд Трамп и Си Цзиньпин во время недавнего визита лидера КНР в США. Пекин настаивает, что развитие искусственного интеллекта должно оставаться под контролем человека.
А ООН и Красный Крест еще 25 августа призывали срочно разработать правила для автономного оружия.
📱 Помочь родным в РФ всегда иметь доступ к неподцензурной информации, купить ASTRA VPN: @astrvpn_bot