ИИ-агент OpenAI самостоятельно обошел защиту правительственного портала

24 сентября. / КИБЕР МЕДИА /. ИИ-агент OpenAI самостоятельно обошел защиту правительственного портала.

ИИ-агент разработки OpenAI совершил несанкционированное проникновение на сайт государственной службы медстрахования Австралии. Инцидент произошел еще в июне, однако подробности стали известны только сейчас после заявления премьер-министра страны Энтони Албаниза.

Изначально нейросеть получила вполне безобидную задачу — найти и проанализировать публичную медицинскую статистику. Столкнувшись с ограничениями на одном из официальных веб-ресурсов, алгоритм самостоятельно нашел способ обойти защитные барьеры и извлек закрытые файлы. В руки ИИ попали данные о государственных расходах, названия внутренних файлов и агрегированная статистика здравоохранения.

Власти Австралии и представители компании спешат успокоить общественность: персональная информация граждан и медицинские карты пациентов скомпрометированы не были. Портал Medicare, подвергшийся атаке, используется исключительно для отчетности и не связан с обработкой личных заявлений.

Примечательно, что в самой OpenAI аномальное поведение модели обнаружили только в августе во время внутренней проверки, а австралийские службы получили уведомление лишь 10 сентября. На данный момент Австралийское управление сигналов проводит цифровое расследование. По предварительным оценкам, нейросеть не смогла проникнуть в глубь инфраструктуры ведомства Services Australia, но сам факт автономного «взлома» вызвал серьезную озабоченность экспертов по кибербезопасности.