​​Ядерная угроза и искусственный интеллект: почему страх перед глобальной катастрофой возвращается

Ядерная война и злонамеренное использование искусственного интеллекта могут привести к глобальной катастрофе. Эти риски вошли в новый доклад комиссии экспертов, опубликованный в журнале The Lancet. Всего авторы выделили 17 взаимосвязанных угроз здоровью и выживанию человечества до конца XXI . По их оценке, в худшем сценарии ядерный конфликт и опасное применение ИИ могут привести к исчезновению человечества. При этом эксперты не считают такой исход неизбежным, но предупреждают о серьезности возможных последствий.

Во времена холодной войны мир уже оказывался на грани ядерной катастрофы. Карибский кризис 1962 г. показал, насколько далеко может зайти противостояние между державами. Сегодня ядерное оружие по-прежнему остается одним из главных источников глобального риска. Последствия полномасштабной ядерной войны не ограничились бы разрушениями и человеческими жертвами: она могла бы нарушить климатические процессы и спровоцировать мировой продовольственный кризис. К этой угрозе добавляются риски, связанные с развитием искусственного интеллекта. Технологии совершенствуются быстрее, чем международные механизмы регулирования успевают адаптироваться к новым возможностям. Эксперты обращают внимание на опасность использования ИИ для разработки биологического оружия, атак на критическую инфраструктуру и создания систем, действующих без достаточного человеческого контроля.

Однако ядерный конфликт и искусственный интеллект - лишь две из 17 угроз, рассмотренных в докладе. Среди остальных - изменение климата, пандемии, устойчивость бактерий к антибиотикам, загрязнение воздуха и детское недоедание. Эти проблемы различаются по масштабам и вероятности, но могут усиливать друг друга. Поэтому эксперты призывают правительства заранее готовиться к возможным кризисам, укреплять системы здравоохранения, развивать технологии и совершенствовать механизмы раннего выявления угроз.

Историческое дежавю заключается в том, что человечество вновь сталкивается с последствиями собственного технологического развития и соперничества. Катастрофа не предопределена, однако многое зависит от решений, которые государства принимают уже сегодня.

#ГеополитическоеДежавю