Лонгрид на выходные

Mandiant, подразделение Google Cloud по расследованию киберинцидентов, опубликовало сентябрьский отчёт AI Risk and Resilience 2026 с примерами реальных атак и сбоев, связанных с ИИ.

Один из кейсов — компрометация SaaS-провайдера и захват активной сессии ИИ-ассистента разработчика. После установки отравленного Python-пакета злоумышленник получил GitHub OAuth-токены и распространил червь Shai-Hulud примерно на 100 внутренних репозиториев, автоматизировав кражу секретов и исходного кода.

В другом расследовании атакующий развернул большую языковую модель (Large Language Model, LLM) непосредственно на скомпрометированном облачном сервере. Модель использовалась для разработки и отладки инструментов атаки, ротации IP-адресов и автоматизации сбора данных. В результате были скомпрометированы тысячи учётных данных, включая API-ключи и финансовые секреты.

Есть и другой класс риска — автономный сбой самого ИИ-агента. В финансовой организации агент получил доступ на чтение и запись во внутреннюю биллинговую базу. Ошибка данных запустила рекурсивный цикл: менее чем за час агент сделал более 15 000 API-вызовов, увеличил облачные расходы примерно на $50 тыс. и заблокировал базу данных, остановив рабочие транзакции.

Подробности:

https://cloud.google.com/security/resources/ai-risk-and-resilience-2026