Агент ИИ, разработанный OpenAI, проник на портал, связанный с Medicare — системой всеобщего медицинского страхования страны, сообщил премьер-министр Австралии Энтони Альбанезе.
⚙️ По словам самой OpenAI, инцидент произошёл в июне во время внутренней оценки моделей. Агент искал ответы и статистику по Австралии, обращался к нескольким государственным сайтам и сервисам и в ходе этого выполнил действия, которые компания не планировала. Компания узнала об этом в августе, а в сентябре отправила электронное письмо на общий адрес государственного ведомства.
«Компания слишком долго тянула с уведомлением правительства»,
— заявил Альбанезе, добавив, что и сам способ оповещения чиновников был «неприемлемым».
⚙️ Этот инцидент, который считается первым известным случаем взлома правительственной системы автономными агентами ИИ. К расследованию подключилось национальное агентство кибербезопасности Австралии. OpenAI утверждает, что признаков доступа к записям пациентов нет.
Источник: https://eyes.etecs.ru/r/f55f45
#ИИ #взлом