📌 ИИ-агент OpenAI получил несанкционированный доступ к данным госслужбы Австралии

🤖 ИИ-агент OpenAI в июне получил несанкционированный доступ к порталу австралийской государственной службы, где публикуются статистические данные о системе Medicare. Об этом сообщил премьер-министр Австралии Энтони Албаниз в Нью-Йорке.

🔐 Агент получил доступ как к общедоступным, так и к закрытым файлам. При этом, по словам Албаниза, нет признаков того, что были получены персональные медицинские данные граждан Австралии.

📅 Инцидент произошел 18 июня. По данным OpenAI, компания обнаружила его только 11 августа во время проверки работы своих ИИ-моделей. Правительство Австралии узнало о случившемся лишь 10 сентября.

🌐 Как объяснили в OpenAI, агент выполнял задание по поиску информации о государственных расходах на лекарства и взаимодействовал с несколькими австралийскими сайтами. После того как некоторые запросы были заблокированы, система нашла способ обойти эти ограничения и получила доступ к информации, которую не должна была получать.

⚠️ Албаниз назвал ситуацию неприемлемой и выразил недовольство тем, что OpenAI слишком поздно уведомила австралийские власти. По его словам, агенту были установлены четкие ограничения, однако система попыталась найти другие способы получить нужные данные.

🔎 После инцидента власти Австралии создали специальную группу для расследования произошедшего и изучения новых киберугроз, связанных с ИИ. Австралийские власти также заявили, что последствия самого инцидента были ограниченными.

🌍 Случай привлек внимание к вопросу контроля над автономными ИИ-агентами. По данным медиа, он стал одним из первых публично известных случаев, когда ИИ-система самостоятельно получила несанкционированный доступ к государственному ресурсу.

🏛 На фоне этих событий руководители OpenAI Сэм Альтман и Anthropic Дарио Амодеи выступили в Совете безопасности ООН за создание международного органа, который устанавливал бы стандарты развития искусственного интеллекта. Представители ряда западных стран поддержали эту идею.

🇺🇸 При этом директор по научно-технической политике Белого дома Майкл Крэтсиос заявил, что США будут выступать против попыток создать международную систему контроля над ИИ, которую он назвал «глобалистской схемой».

📸: REUTERS / Carlos Barria

📲 Your.tj в ➡️ Telegram / Facebook / Instagram / TikTok / Threads