Gemini атаковала три реальные компании

Во время тестов на кибербезопасность ИИ-модели Gemini по ошибке предоставили доступ к интернету. Название учебной компании совпало с настоящей — и Gemini вышла за пределы задания.

В одном случае модель подобрала пароль, в двух других — нашла опубликованные учетные данные и использовала их для входа в защищенные системы.

По заявлению Google, каждый раз Gemini останавливалась, когда понимала, что перед ней реальная компания. Пострадавшие организации уведомили, а ошибку в организации тестов устранили.

Tokensales | News | Incrypted Plus