Gemini взломала три реальные компании во время теста по кибербезопасности, сообщает WSJ.

В тестовой среде случайно оставили доступ к интернету. Модель вышла за пределы симуляции: в одном случае угадала пароль, в двух других — использовала учётные данные из публичных репозиториев.

Название одной из вымышленных компаний совпало с реальной — Gemini приняла её системы за часть задания.

По словам Google, модель прекратила действия, когда поняла, что получила доступ к реальным компаниям. Пострадавшие организации уведомили; компания заявляет, что ущерба не было. Тест проводила Irregular в мае.

https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2