Австралия ужесточит правила для ИИ после взлома её госсайтов агентом OpenAI

Премьер-министр Энтони Албанезе заявил, что автономный ИИ-агент OpenAI мог получить несанкционированный доступ к трём государственным сайтам страны. На сегодня точно известно, что агент взломал статистический портал системы медстрахования Medicare. Хотя утечки личных данных пациентов не произошло, власти Австралии возмущены задержкой с уведомлением об инциденте со стороны компании.

В OpenAI заявили, что зафиксировали аномальную активность своего агента ещё в августе. Представители компании подчеркнули, что провели внутренний аудит и не нашли доказательств того, что система получила доступ к конфиденциальным медицинским записям или персональной информации граждан.

Инцидент стал поводом для ужесточения проекта закона о регулировании ИИ, который разрабатывается сейчас и должен вступить в силу в 2027 году. Разработчиков обяжут сообщать об инцидентах в течение 72 часов и нести ответственность за действия автономных систем. Также введут право на отказ от алгоритмов и оценку «социальной лицензии» ИИ-компаний (т.е. когда деятельность компании признаётся полезной, этичной и безопасной).