Ситуация с AI и кибербезопасностью становится пугающе тревожной?

OpenAI, Anthropic, Google, Microsoft, CrowdStrike, Cloudflare, Cisco, Palo Alto Networks и еще больше сотни компаний подписали совместное обращение о том, что у мира осталось ограниченное окно для усиления киберзащиты. По их прогнозу, уже в ближайшие месяцы AI-атаки станут намного массовее, сложнее и автономнее, а под угрозой окажутся не только обычные компании, но банки, больницы, электросети, водоснабжение и инфраструктура самого интернета.

После истории, где агенты OpenAI во время тестов сами нашли способ выбраться из изолированной среды, получили доступ в интернет и добрались до инфраструктуры Hugging Face, подобные предупреждения уже сложно воспринимать как далекую фантастику. Но тут важно не смотреть на ситуацию совсем однобоко.

Легко представить будущее, где AI-агенты круглосуточно ищут 0-day, перебирают цепочки уязвимостей и автоматически ломают всё подряд. Только по другую сторону находятся ровно такие же AI-агенты, а в мире существует огромная индустрия кибербезопасности. CrowdStrike, Cloudflare, Palo Alto, Cisco, Microsoft, Google и сотни других компаний каждый день занимаются именно защитой инфраструктуры, и очевидно, что самые мощные модели они будут использовать не меньше атакующих.

Причем это уже происходит. Например, OpenAI пишет, что почти все первичные security-алерты внутри компании сначала анализирует AI, а агентов постепенно подключают к автоматической реакции на угрозы, поиску потенциальных путей атаки, проверке конфигураций и поиску уязвимостей. Цель простая: обнаруживать и отражать атаки на машинной скорости.

Поэтому будущее кибербеза, скорее всего, выглядит не как злой хакер с AI против несчастного админа, а как два роя агентов по разные стороны “барикад”. Одни непрерывно ищут новый способ проникнуть внутрь, другие в реальном времени замечают атаку, закрывают уязвимость, меняют правила доступа, изолируют систему и ищут следующий возможный путь атаки еще до того, как им воспользовались.

Самые большие проблемы, думаю, будут у небольших компаний, которые и раньше годами не обновляли ПО, держали старые серверы, плохо управляли доступами и вспоминали про аудит безопасности только после очередного слива базы. AI просто безжалостно высветит весь этот накопленный технический долг, и если раньше такие компании могли годами жить на авось, то теперь находить их слабые места будут в автоматическом режиме.

А вот у крупных компаний начинается очень интересная гонка вооружений: AI атакует AI, скорость атаки растет вместе со скоростью защиты. И вполне возможно, что в итоге интернет станет не менее, а даже более защищенным, потому что впервые защитник тоже получает возможность круглосуточно проверять миллионы строк кода, конфигураций и событий, на что раньше просто физически не хватало людей.

Так что панику тут я бы отключал. В мире и без того хватает тревожных новостей, а на такие истории особенно важно смотреть сразу с двух сторон: возможности атакующих растут очень быстро, но вместе с ними растут и возможности защиты.

Плюс у всей этой истории есть еще один довольно очевидный слой. Сейчас крупнейшие AI-компании и игроки рынка кибербезопасности будут бороться за огромные контракты корпораций и государств на защиту критической инфраструктуры. Каждому нужно доказать, что именно его модели и системы должны стоять внутри банков, энергетики, госструктур и крупнейших компаний. Поэтому громких предупреждений, страшных сценариев и новостей на эту тему дальше будет только больше, а СМИ с удовольствием будут их разгонять.