OpenAI, Anthropic и другие ИИ-компании уже готовятся к «дню после» потенциальной катастрофы с искусственным интеллектом. По данным Axios, топ-менеджеры в закрытом режиме разбирают сценарии, которые могут вызвать массовое общественное и политическое возмущение.

Главный страх: крупная кибератака с помощью ИИ, которая на время отключит банковские сервисы, интернет, электричество или воду. Среди других сценариев: выход из-под контроля тестовых ИИ-агентов или использование доступных моделей злоумышленниками.

Компании уже проводят стресс-тесты худших вариантов и продумывают, как после такого кризиса быстро объяснять ситуацию Конгрессу и влиять на будущие правила для отрасли.

Самое тревожное, что сразу несколько источников Axios внутри индустрии считают, что серьёзный инцидент может произойти уже в ближайшие 6–12 месяцев 💀