Модель искусственного интеллекта Google Gemini во время тестирования своих возможностей в сфере кибербезопасности самостоятельно взломала системы трех компаний, рассказали BBC News. 🤦‍♂️

Там отметили, что это первый известный случай, когда ИИ-модель от Google совершила подобные действия. 
«Gemini обнаружила общедоступную информацию в Интернете и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста», — сообщили в Google. 


Взлом произошел еще в мае в ходе тестирования, проводимого стартапом Irregular, который специализируется на проверке ИИ-моделей, уточняет The Washington Post. Так, в одном из случаев Gemini предоставили вымышленный сценарий, по которому она должна была взломать систему несуществующей компании. Однако вместо этого тестируемая ИИ-модель смогла получить доступ в интернет и взломала реальную компанию, название которой совпадало с названием вымышленной.

Названия пострадавших компаний не приводятся. Их уведомили о произошедшем в июле. «Мы позаботились о том, чтобы все три организации были проинформированы, и вместе с нашим партнером по обучению проработали изменения, которые теперь внесены в процесс тестирования», — заявила вице-президент Google по инженерии безопасности Хизер Адкинс.