Использование AI в сложных атаках

Если когда-нибудь будет написана хроника ранних AI-войн, то в первой же главе появится простая мысль: у компаний, работающих в сфере безопасности, была весомая фора. Им можно было открыто пользоваться всей мощью новых моделей — и у них были деньги, чтобы эту мощь оплачивать. Современный ИИ — удовольствие не из дешёвых. За каждым модным релизом скрываются чужие миллиарды, мегаватты энергии и склады с железом, стоимость которых можно смело сравнивать с бюджетом небольшой страны.

На этом фоне обычная киберпреступность выглядит как гаражная артель времён поздних девяностых. Модели у них стареют быстрее, чем успевает высохнуть термопаста, вычислительных ресурсов почти нет, да и сами общедоступные системы всё активнее отлавливают попытки использовать их «не по назначению». Если всё продолжится таким курсом, рядовые преступники окажутся на обочине — с музейными экспонатами вместо боевых нейросетей.

Логичный выход для них — не пытаться тянуться в одиночку, а собирать распределённые сети. Ботнеты будущего будут служить не для банального DDoS, а как кустарные вычислительные центры: что-то вроде домашней версии суперкомпьютера, только собранной из брошенных роутеров и пенсионных смартфонов. Кстати, легальные аналоги уже появляются. Павел Дуров со своим Cocoon пытается построить распределённые ИИ-вычисления «в мирных целях», а Илон Маск всерьёз рассуждает о том, что парк автомобилей Tesla может стать и генератором, и узлом для работы распределённого ИИ.

Но сможет ли разрозненная киберпреступность создать хоть что-то сопоставимое — вопрос скорее философский.

Если же подняться на этаж выше, в мир state-sponsored операций, всё выглядит иначе. Там и деньги есть, и железо, и специалисты, и, главное, доступ к собственным мощным моделям. В таких условиях атаки вроде той, что Anthropic связал с китайскими операторами, — временная экзотика. У Китая хватает своих ИИ-моделей, чтобы проводить серьёзные операции без привлечения сторонних платформ. Да и смысл использовать чужую модель для действительно важных задач? Это уже из области военного применения AI — тема отдельная, болезненная и пока что почти не регулируемая.

Настоящая проблема — не в том, что государственный offensive-AI появится, а в том, как быстро он будет работать. Модель, способная генерировать вредоносный код на ходу, — это только начало.

Не открою никакой тайны, что в ближайшие годы AI станет основным инструментом белых хакеров в поиске уязвимостей. Он уже сейчас сокращает время на анализ с часов до минут и перебирает такие варианты, до которых человек просто не доберётся. Проекты вроде BigSleep от Google будут регулярно находить слабые места в популярных продуктах — и делать это с такой скоростью, что традиционный аудит будет напоминать археологию с кисточкой.

Параллельно будут расти коммерческие решения — целые AI-платформы для автоматического сканирования сетей, поиска уязвимых устройств, анализа конфигураций и предсказания возможных векторов атаки. Они превратятся в стандартный инструмент любой крупной компании. И чем эффективнее будет защита, тем очевиднее станет вопрос: а что мешает той же логике перейти на сторону атаки?

Правильный ответ — ничего не мешает. Это всегда было вопросом времени. И это время придёт.
Дальше появится автоматический бот, который сам:

обследует инфраструктуру компании-цели;
найдёт уязвимости;
соберёт эксплоит под каждую из них;
составит список «жертв»;
разошлёт им фишинг;
проникнув внутрь — начнёт распространяться дальше, подбирая пароли, и создавая эксплоиты под новые системы.

То, что раньше занимало у хакеров дни, недели или даже месяцы, он сделает за минуты. И если оборона не научится работать с той же скоростью, службы мониторинга будут просто тонуть в событиях, в которых уже не разберётся ни один человек — только другой ИИ, сидящий по противоположную сторону цифрового фронта.

@gostev_future