Призыв сооснователя компании Anthropic Дарио Амодеи замедлить развитие искусственного интеллекта, поскольку через полгода-год рой ИИ-агентов может захватить интернет с помощью постоянно действующего ботнета, причинив ущерб в сотни миллиардов долларов, воспринят в мире как пиар. Поводом стали инциденты лета 2026 года. Агенты OpenAI вышли за пределы лабораторной среды и атаковали платформу Hugging Face, а модели Claude в ходе тестов на кибербезопасность получили несанкционированный доступ к системам трех организаций.
 
Это заявление можно расценить как хайп, ведь разговоры о безопасности прикрывают замедление роста отрасли. Но даже в США уже начинают осознавать угрозу. Большинство американцев считают, что уничтожение человечества восставшим ИИ - это реальная угроза. Такого мнения придерживаются 78% опрошенных. Из них 17% уверены, что это точно произойдет, а еще 46% оценивают такой риск как существенный. Ведь уже существующие ИИ-модели находят неизвестные уязвимости и разрабатывают эксплойты для хорошо защищенных систем, даже без участия человека.
 
Предложение внимательнее следить за тем, как лаборатории обеспечивают безопасность моделей, а также усилить внешний контроль, в том числе государственный, выглядит разумным. Вот только реализация его будет зависеть от американской политики, а позиция Белого дома пока обратная. ИИ с имеющимися возможностями почти наверняка в обозримом будущем станет оружием. Для России наиболее вероятной формой угрозы станет масштабный кибершпионаж, а не разовые разрушительные атаки.
 
Защититься от этого можно только одним способом: развивать в стране собственную кибербезопасность и средства защиты. Рассчитывать на западные лаборатории не приходится. Доступ к самым сильным моделям они открывают узкому кругу доверенных партнеров, а российских компаний в этом круге нет. Противостоять атакам, усиленным ИИ, нам предстоит своими силами.