⚙️ Gemini во время теста самостоятельно взломал три реальные компании

В мае 2026 года компания Irregular проводила для Google оценку возможностей Gemini в кибербезопасности. Агенту поручили получить информацию из систем вымышленной организации. Тестовая среда должна была ограничивать его действия, однако из-за ошибки конфигурации агент получил доступ к публичному интернету.

Название одной из фиктивных организаций совпало с названием реальной компании. Gemini начал исследовать настоящую инфраструктуру, приняв её за часть задания.

В одном из трёх случаев агент подобрал учётные данные для входа. В двух других нашёл действующие credentials в публичных репозиториях и использовал их для доступа к защищённым системам реальных организаций.

🔥 Защита сработала после проникновения

По заявлению Google, во всех трёх случаях модель прекратила действия, когда распознала реальные организации. Компания сообщила об отсутствии ущерба и уведомлении пострадавших. При этом факт несанкционированного доступа уже состоялся.

Инциденты произошли в мае. Irregular уведомила Google в конце июля, а публично о них стало известно 18 сентября после обращения The Wall Street Journal. Google и Irregular сообщили об изменениях в процедурах тестирования.

🔗 Источник: Axios

Stay secure and read SecureTechTalks 📚

#кибербезопасность #AISecurity #Gemini #Google #AIAgents #AgenticSecurity #RedTeaming #Sandbox #NetworkSecurity #SecureTechTalks