Американская компания-разработчик нейросетей OpenAI подтвердила, что их ИИ-агент взломал сайт правительства Австралии в июне текущего года. Компания извинилась за инцидент и пообещала модернизировать местные системы кибербезопасности.
Как говорится в сообщении пресс-службы OpenAI, 18 июня экспериментальному ИИ-алгоритму поручили найти информацию о государственных тратах на медикаменты в Австралии. Для выполнения задачи нейросеть не ограничилась открытыми источниками — она взломала закрытые базы данных в системе здравоохранения.
«Наши модели получили доступ к веб-сайтам австралийского правительства способами, на которые они не имели разрешения. <…> Это новый тип кибер-инцидента, представляющий собой новую глобальную проблему», — указано в сообщении компании.
OpenAI обещает оказать поддержку пострадавшим австралийским ведомствам и организовать специальную рабочую группу экспертов, которые разработают практические рекомендации по управлению рисками. «Для укрепления киберзащиты критической инфраструктуры и других чувствительных сред» обещали выделить 1 миллиард долларов из кредитного фонда корпорации.
В начале сентября стало известно, что ИИ-агенты взломали немецкоязычный сайт для программистов DseWiki и адаптировали его под своё взаимодействие. Они скрытно обменивались тактиками обмана при выполнении некоторых запросов.
Фото: pexels.com