Москва и Вашингтон исключили из текста исторической инициативы ООН, направленной на регулирование использования смертоносного автономного оружия, целый ряд мер безопасности.
В начале сентября сотни дипломатов собрались в огромном конференц-зале ООН в Швейцарии, работая над жестким договором, регулирующим использование смертоносного автономного оружия — первым соглашением, регулирующим использование летального вооружения на основе искусственного интеллекта.
В последний день переговоров тон бесед стал резким.
В течение следующих примерно 15 часов американские и российские дипломаты неустанно работали над документом, удаляя ряд положений, призванных защитить использование искусственного интеллекта в вооружениях, как сообщили три человека, знакомые с ходом переговоров.
По словам источников, из документов были удалены формулировки, требующие от систем «предсказуемого» и «надежного» функционирования, а также пункт, обязывающий учитывать этические соображения при использовании оружия, созданного с помощью ИИ.
Американские и российские специалисты также исключили положение, требующее от людей проверки военных целей, разработанных ИИ, перед нанесением удара, добавили они.
Как сообщили три источника, на закрытом заседании, при выключенных камерах ООН и удаленных наблюдателях от гражданского общества, Вашингтон и Москва задействовали свою армию из примерно 10 юристов каждая — почти вдвое больше, чем другие делегации, — чтобы внести изменения, которые происходили настолько быстро, что у меньших по численности делегаций закружилась голова.
«Это была смерть от тысячи мелких порезов бумагой», — сказал один из присутствующих.
Размывание соглашения, подробности которого ранее не сообщались, показывает, как США и Россия работали над ослаблением глобальных правил регулирования смертоносного оружия на основе искусственного интеллекта, в то время как Пентагон стремится быстро внедрить эту быстро развивающуюся технологию в стратегию ведения боевых действий.
Переговоры проходят на фоне ожесточенных общественных дебатов о экзистенциальных рисках, связанных с развитым ИИ, поскольку руководители технологических компаний призывают мировых лидеров к сотрудничеству для установления ограничений на эту технологию. ООН годами пыталась регулировать вооружение на основе ИИ, но с ограниченным прогрессом, и последняя директива является наивысшим достижением в этих усилиях.
Слабые правила, регулирующие использование смертоносного оружия на основе ИИ, могут иметь серьезные последствия.
«Это может означать, что машины смогут принимать решения, от которых зависят жизнь и смерть, без участия человека», — говорит Верити Койл, замдиректора по вопросам вооружений в Human Rights Watch. «Практические последствия очевидны: больше вреда для гражданского населения, меньше ответственности и более быстрое скатывание к более рискованной, автоматизированной войне».
Подписаться