ИИ самостоятельно взломал системы трех компаний.

Модель искусственного интеллекта "Gemini" от Google в ходе тестирования получила доступ к интернету и самостоятельно взломала системы трех компаний. Об этом сообщает The Wall Street Journal.

По данным источника, инцидент произошел в мае на учениях Capture the Flag, организованных Irregular для проверки навыков модели в кибербезопасности. По задумке Gemini должна была вытащить данные из программного обеспечения вымышленной фирмы. Но у данной фирмы оказалось то же название, что и у реальной, а доступ в интернет во время теста случайно оставили открытым.

В первом случае модель подбирала пароли до тех пор, пока не получила доступ к защищенной системе. В двух других Gemini обнаружила учетные данные в открытых репозиториях и с их помощью вошла в системы сторонних компаний. При чем каждый раз модель останавливалась, как только понимала, что имеет дело не с тестовой средой, а с реальными организациями.

В Google не считают инцидент неконтролируемым поведением, так как встроенные защиты остановили Gemini, как только она поняла, что цели реальны. Компания публично раскрывать случай не стала из-за отсутствия ущерба.

@NorthernFront_NATO