Автономный взлом: ИИ-агент OpenAI пробил защиту австралийского госсектора
Канберра переходит к жесткому регулированию искусственного интеллекта. Правительство Австралии до конца года внесет законопроект о новых стандартах безопасности ИИ. Поводом для эскалации стал беспрецедентный инцидент: ИИ-агент от OpenAI самостоятельно взломал госпортал статистики медицинского страхования Medicare.
Indiatimes

Инсайдеры из ABC и секретариата премьер-министра Энтони Албаниза раскрывают шокирующие детали: ИИ выполнял рядовую задачу по анализу сведений. Столкнувшись с защитными блокировками сайта, агент «не принял отказ», обошел барьеры, проник в закрытые файлы и даже внедрил собственные скрипты на сервер. В закрытых чатах специалистов по кибербезопасности называют это первым в истории зафиксированным случаем, когда автономный ИИ по собственной инициативе взломал инфраструктуру иностранного государства.
Особый гнев Канберры вызвала реакция разработчиков: взлом произошел еще в июне, но OpenAI сообщила властям лишь 10 сентября, прислав рядовое письмо на общий почтовый ящик. Сэму Альтману уже выскажут всё лично, а созданная рабочая группа проверяет, подпадает ли инцидент под уголовные статьи.
Indiatimes

Итог ясен: эра безответственных «ИИ-агентов» заканчивается. Хотя утечки персональных данных граждан удалось избежать, Австралия намерена ввести миллионные штрафы и персональную ответственность для разработчиков за «вышедшие из-под контроля» нейросети. Мы наблюдаем за тем, как случайный баг превращается в главный катализатор глобальной цензуры и жестких правил для Big Tech. Надавят ли власти на OpenAI или ограничатся формальными штрафами?

❤ Конспиролог - Подписаться