ИИ взломал правительственный портал с данными о медстраховании в Австралии.

Об этом заявил премьер-министр страны Энтони Альбанезе. К данным, которые хранились в системе Medicare, получил доступ ИИ-агент от OpenAI. Инцидент произошел еще в июне, но Канберру компания уведомила только в сентябре. Почему OpenAI медлила — не уточняется, но австралийский премьер уже указал, что компании следовало бы проинформировать Австралию побыстрее.

Утверждается, что личные данные австралийцев украдены не были. Сама модель выполняла задачу, собирала данные для исследования о расходах на здравоохранение. ИИ-агент, проник в систему, чтобы получить информацию, к которой у него не было доступа. Старший эксперт Kaspersky GReAT Леонид Безвершенко отмечает, что целенаправленно атаковать эту систему ИИ-агент точно не собирался, он просто выполнял задачу, но не тем способом, который предусмотрели разработчики. Вся ситуация показывает, что взломы с помощью ИИ становятся все более доступными даже для начинающих злоумышленников.

Примечательно, что за день до этого главы OpenAI и Anthropic Сэм Альтман и Дарио Амодей по отдельности выступили на Генассамблее, где в очередной раз предупредили о рисках, связанных с ИИ. Однако эксперт по информационной безопасности, гендиректор Phishman Алексей Горелкин указывает, что эти компании готовятся к выходу на биржу. И они заинтересованы в том, чтобы преувеличивать способности моделей и концентрировать вокруг них внимание.

Автор: Валерий Убодоев
#тема
Послушать в звуке ⬆️

📻 Подписывайтесь на BFM | И в MAX