Во всем мире использование искусственного интеллекта перешло от преимущественно теоретических сценариев к реальному применению на поле боя.
По данным WP, американские военные использовали чат-бота Anthropic для определения почти 1000 целей для нанесения ударов в первые 24 часа войны с Ираном. Израиль также активно использует ИИ в военных операциях в Газе. Злоумышленники в Йемене и Иране использовали чат-боты для попыток создания оружия или нападения на американских военных.
Все это вызвало опасения по поводу того, что технология может стать неуправляемой.
В этом месяце исследователь из компании Anthropic уволился и предупредил общественность, что искусственный интеллект может положить конец существованию человечества, что вызвало ожесточенные дебаты в Вашингтоне о том, как регулировать его использование, прежде чем он станет экзистенциальной угрозой. На заседании Совбеза ООН на этой неделе глава OpenAI Сэм Альтман и лидер Anthropic Дарио Амодей призвали страны к сотрудничеству для создания модели глобального управления ИИ.
Переговоры в ООН по летальному автономному оружию пока не имеют обязательной юридической силы, хотя, если страны-члены придут к консенсусу, они могут открыть путь к заключению знакового юридически обязывающего договора.
Он представляет собой наиболее передовую глобальную попытку регулировать использование оружия на основе ИИ на поле боя.
Однако на переговорах в Женеве стало очевидно, что США и Россия станут серьезным препятствием на пути прогресса, сообщили источники.
Вашингтон и Москва не поддерживают юридически обязательные правила в отношении автономного оружия и оказывают чрезмерное влияние на исход переговоров, говорит Николь ван Ройен, глава глобальной неправительственной коалиции Stop Killer Robots. «Они обладают полномочиями блокировать любой существенный прогресс, достигнутый подавляющим большинством государств, которые хотят продвинуться вперед в заключении обязательного договора», — добавила она.
В ноябре страны соберутся в Женеве, чтобы обсудить, могут ли переговоры перерасти в официальный мандат или, возможно, в юридически обязывающий договор.
Однако у США и России есть дипломатические возможности, юридические команды и политические стимулы для того, чтобы сохранить слабые глобальные правила в отношении автономного оружия, говорит Верити Койл из Human Rights Watch. «Когда США хотят сохранить военное или технологическое превосходство, они продвигают добровольные рекомендации вместо обязательных правил», — сказал Коул. «Мы видели ту же самую тактику в киберпространстве, космосе и других областях контроля над вооружениями. Автономное оружие не является исключением».
Подписаться