🤖 Первое официальное ИИ-нападение уже произошло.

Похоже, мы только что перешли еще одну важную черту. Крупнейшая платформа для публикации ИИ-моделей Hugging Face сообщила, что впервые столкнулась с полностью автономной кибератакой, выполненной системой ИИ-агентов от начала до конца. Не человеком с ChatGPT, а именно автономной системой, самостоятельно выполнявшей всю цепочку действий.

Атака началась с конвейера обработки наборов данных. Затем ИИ получил доступ к рабочим узлам, извлек облачные учетные данные и начал перемещаться по внутренней инфраструктуре компании.

Самое интересное произошло уже после обнаружения взлома. Для расследования специалисты Hugging Face попытались использовать коммерческие ИИ-модели. Но встроенные ограничения не позволили им анализировать реальные эксплойты и вредоносные сценарии. В итоге расследование пришлось проводить с помощью открытой модели, развернутой внутри собственной инфраструктуры.

Именно это, на мой взгляд, главный вывод всей истории.

Мы привыкли обсуждать искусственный интеллект как помощника программиста, аналитика или дизайнера. Но теперь ИИ становится полноценным участником киберконфликта - и на стороне защиты, и на стороне атакующих. Это означает, что кибербезопасность уже меняется. Завтра недостаточно будет просто иметь хороших специалистов. Нужны будут собственные ИИ-модели для анализа угроз, автоматического расследования инцидентов и противодействия таким атакам.

Для России это особенно актуально. Мы уже создаем собственные большие языковые модели и ИИ-платформы. Следующий шаг - научить их не только писать код и отвечать на вопросы, но и защищать критическую инфраструктуру, корпоративные сети и государственные информационные системы.

Потому что если атаковать будет ИИ со скоростью машины, то и защищаться человеку в одиночку уже не получится.

Шурыгин.IT - про технологии без иллюзий.