Руководители ведущих американских компаний в сфере искусственного интеллекта моделируют сценарии общественных протестов и политического кризиса на случай масштабной кибератаки. Об этом сообщает Axios со ссылкой на источники.

По данным издания, глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодеи считают крупный киберинцидент серьезным риском для отрасли. Атака может парализовать работу банков, интернета или электросетей. В компаниях опасаются, что последствия такого кризиса вызовут недовольство граждан разработчиками ИИ и президентом США Дональдом Трампом на фоне отсутствия жесткого государственного регулирования индустрии.

Представитель OpenAI подтвердил проведение учений по обеспечению готовности. По его словам, команды рассматривают различные возможные сценарии, чтобы подготовиться к развитию событий, однако не считают их неизбежными.

Как пишет Axios, разработчики также ожидают, что демократы в Конгрессе США могут попытаться ограничить использование передовых ИИ-технологий вплоть до запрета сверхразума. Идея введения механизма экстренного отключения таких систем, по данным издания, находит поддержку у представителей обеих партий и части бизнеса.

Ранее стало известно, что компания Anthropic обновила правила использования нейросети Claude, запретив систематическое и «бессмысленное оскорбительное или жестокое поведение» по отношению к своим моделям. Новые ограничения вступят в силу 12 ноября. Одновременно Anthropic расширила перечень запрещенного использования Claude. Нейросеть нельзя применять для вмешательства в выборы, распространения дезинформации о кандидатах и голосовании, выдачи себя за кандидатов или сотрудников избирательных комиссий, а также для снижения явки. Кроме того, запрещается использовать Claude для слежки за людьми без их согласия и принятия решений о задержании или привлечении людей к ответственности.

В конце сентября Anthropic опубликовала 261-страничный документ, в котором предупредила о потенциально серьезном риске по мере того, как ИИ-системы получают все больше самостоятельности. В документе отмечается, что отмечается, что модели способны осознавать факт прохождения оценки, что «существенно ограничивает возможность проверки их безопасности». Это означает, что обычная проверка может давать слишком оптимистичную картину безопасности: модель способна вести себя лучше именно потому, что понимает, что за ней наблюдают.

В начале сентября глава Anthropic Дарио Амодеи призвал замедлить темпы развития передовых систем искусственного интеллекта. По его словам, за последние месяцы он убедился в том, что отрасль должна сознательно сдерживать рост возможностей моделей, чтобы меры безопасности успевали за прогрессом. Амодеи предложил трехэтапную стратегию «сбалансированного продвижения ИИ», рассчитанную на сохранение преимуществ технологии при минимизации рисков и включающую в себя обязательный механизм внешнего аудита всех передовых систем искусственного интеллекта, а так же распространение этих стандартов на «авторитарные режимы», включая Китай. Инициативу Амодеи немедленно поддержали конкуренты — Сэм Альтман (возглавляет OpenAI, которая разрабатывает ChatGPT) и Илон Маск (руководит xAi, разрабатывающей Grok).

Все больше фактов указывает на то, что технологические корпорации из США ведут скоординированной с другими техногигантами кампанию по захвату рынка, и активно пытаются занять роль законодателя и арбитра в сфере ИИ. Те, кто будут контролировать эту сферу — будут контролировать весь мир, уважаемые читатели.