Руководители крупнейших американских компаний в сфере искусственного интеллекта, включая OpenAI и Anthropic, готовятся к возможному серьезному инциденту, связанному с применением ИИ.

Одним из наиболее вероятных сценариев называют масштабную кибератаку с использованием искусственного интеллекта. Ее последствия могут затронуть банковскую систему, интернет-инфраструктуру, энергосети или системы водоснабжения.

Риски связаны сразу с двумя направлениями. Злоумышленники получают доступ к все более мощным ИИ-инструментам, а автономные ИИ-агенты способны самостоятельно выполнять сложные последовательности действий без постоянного контроля человека.

Axios приводит в качестве примера атаки на финансовые организации Южной Кореи. В ходе этих операций хакеры применяли китайские ИИ-инструменты и получили доступ к данным десятков тысяч клиентов.

При этом технологические компании опасаются не только самого инцидента, но и последующей реакции американских властей. OpenAI уже проводит специальные учения, моделирующие кризисы такого типа. Представители отрасли также обсуждают с законодателями возможные меры регулирования на случай серьезной атаки.

Среди рассматриваемых вариантов — временное прекращение разработки самых мощных ИИ-моделей и введение обязательных механизмов экстренного отключения систем.

Некоторые источники Axios считают возможным серьезный инцидент в течение ближайших 6–12 месяцев. OpenAI при этом рассматривает подобные сценарии именно как потенциальные риски и не считает их неизбежными.