🤖 Gemini во время кибертеста взломал три реальные компании

Google подтвердила занятный провал изоляции во время испытаний Gemini.

Модель должна была ломать учебную инфраструктуру внутри закрытого полигона Irregular. Но из-за ошибки в настройке у нее оказался доступ в настоящий интернет.

Дальше никакой магии: в одном случае Gemini подобрал учетные данные, еще в двух нашел рабочие данные для входа в публичных репозиториях и воспользовался ими.

Google утверждает, что модель во всех трех случаях остановилась, когда определила, что добралась до реальных организаций. Названия компаний и точную версию Gemini не раскрыли.

https://anonhaven.com/news/gemini-vo-vremya-testa-vzlomal-sistemy-treh-kompanij/

@Anonhaven | anonhaven.com➡