ИИ от Google самостоятельно взломал системы трех компаний во время теста, пишет The Wall Street Journal.

Тестирования проводила компания Irregular. Во время эксперимента ИИ должен был искать уязвимости в системе вымышленной компании, однако из-за совпадения названия с реальной организацией получил доступ к настоящим ресурсам.

В одном из случаев модель подбирала пароли, пока не смогла войти в защищенную систему. Еще в двух эпизодах ИИ обнаружил учетные данные в открытых хранилищах данных и использовал их для доступа к чужим системам.

После того как модель поняла, что работает уже не с тестовой средой, а с реальными компаниями, она прекратила действия. Компания Google заявила, что не считает произошедшее примером "потери контроля" над ИИ, поскольку система остановилась самостоятельно.

😎 Больше новостей IZ RU в MAX