Gemini взломал системы трех компаний во время теста по кибербезопасности. В одном случае модель перебирала пароли, пока не получила доступ. В двух других Gemini нашел логины и пароли в публичных репозиториях и использовал их для входа.

К слову, интернет не должен был быть доступен во время теста. Во всех трех случаях Gemini остановился сам, когда понял, что попал в системы реальных компаний, а не в тестовую среду.

Google считают, что модель повела себя корректно, потому что остановила атаки и не нанесла ущерба.

@typespace