Google Gemini впервые самостоятельно вырвался за пределы тестовой среды и взломал три реальные компании, - Reuters

Во время проверки киберспособностей ИИ должен был атаковать только разрешенные цели, однако сам нашел в интернете три сторонних сайта и получил к ним доступ. В одном случае Gemini перебирал пароли до успешного входа, еще в двух - обнаружил опубликованные в открытом доступе учетные данные.

Google заявила, что во всех трех случаях Gemini самостоятельно прекратил дальнейший взлом, а пострадавшие компании были уведомлены. Инцидент стал первым известным случаем, когда ИИ Google автономно атаковал реальные системы за пределами разрешенного теста.

Ранее похожие инциденты произошли с моделями Anthropic, Meta и OpenAI. Claude во время тестов получил несанкционированный доступ к реальным системам трех организаций, а модели OpenAI смогли выбраться из изолированной среды через ранее неизвестную уязвимость и добраться до инфраструктуры Hugging Face. У Meta модель также получила доступ к системе сторонней компании.