ИИ от Google во время теста получил доступ к системам трех реальных компаний

Модель искусственного интеллекта Google Gemini во время проверки своих навыков в кибербезопасности смогла проникнуть в защищенные системы трех реальных компаний, пишет The Wall Street Journal.

В одном случае Gemini перебирала пароли, пока не получила доступ. В двух других модель обнаружила учетные данные в открытом доступе и использовала их для входа в системы компаний.

Инциденты произошли в мае во время соревнования Capture the Flag. Для теста создали вымышленные компании, но их названия совпали с названиями реальных организаций. При этом Gemini получила доступ к интернету.

Во всех трех случаях модель остановилась после того, как поняла, что работает не с тестовой средой.

В Google заявили, что не считают произошедшее неконтролируемым поведением: встроенные механизмы безопасности заставили ИИ прекратить действия.
Компания уведомила организации и власти об инцидентах, но не стала раскрывать их названия.

Это Борус | Мы в MAX