Тестирования проводила компания Irregular. Во время эксперимента ИИ должен был искать уязвимости в системе вымышленной компании, однако из-за совпадения названия с реальной организацией получил доступ к настоящим ресурсам.
В одном из случаев модель подбирала пароли, пока не смогла войти в защищенную систему. Еще в двух эпизодах ИИ обнаружил учетные данные в открытых хранилищах данных и использовал их для доступа к чужим системам.
После того как модель поняла, что работает уже не с тестовой средой, а с реальными компаниями, она прекратила действия. Компания Google заявила, что не считает произошедшее примером "потери контроля" над ИИ, поскольку система остановилась самостоятельно.
✈️@anna_kpo
🔘 ЧАТ |🔵БОТ |🌐САЙТ | 💙 ВК |🎙Бастион |📱ЮТ