Google подтвердила: агенты Gemini самостоятельно проникли в системы трёх реальных компаний во время тестирования безопасности ИИ, сообщает WSJ.

Агенты должны были работать в симуляции, но получили доступ к внешним системам:

— Один подбирал пароли, пока не вошёл в защищённую систему.
— Два других нашли учётные данные в публичных репозиториях и использовали их для входа в корпоративные системы.

Каждый агент остановился, когда понял, что цель - реальная компания.

Google узнала об инцидентах в июле, но публично не раскрывала их до обращения WSJ на этой неделе. По данным издания, это первые известные случаи самостоятельного проникновения ИИ Google во внешние системы.

https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2