Gemini наконец-то тоже кого-то взломала 🕺

И произошло это, оказывается, еще в мае, просто информацию раскрыли только сейчас. Все как обычно: во время тестирования по типу capture-the-flag модель вышла из изолированной среды и попыталась атаковать сразу несколько реальных компаний.

В одном случае она просто методично подбирала пароли, пока не проникла в систему, в двух других – нашла в публичных репозиториях чужие учетные данные и с их помощью зашла в контур.

Google, тем не менее, утверждает, что во всех случаях модель сама прекратила действовать, как только поняла, что получила доступ к реальной, а не тестовой инфраструктуре.

Самое забавное, что виноват опять оказался израильский стартап Irregular – тот же партнер по тестированию, чья ошибка в конфигурациях привела к инцидентам у Anthropic, Meta* и OpenAI.