Искусственный интеллект компании OpenAI взломал австралийский государственный портал Medicare, предоставляющий статистику о системе медицинского страхования, сообщает Reuters.

Премьер-министр Энтони Албаниз назвал произошедшее «неприемлемым» и выразил главе OpenAI Сэму Альтману свою «крайнюю обеспокоенность».

Особое недовольство Албаниза вызвало то, что OpenAI слишком долго не информировала австралийское правительство. Взлом произошёл ещё в июне, однако власти узнали о нём только сейчас, в сентябре. ИИ-агент получил доступ к публичным и непубличным файлам системы страхования. При этом личная информация, по всей видимости, не была затронута, и отдельные люди не пострадали, заявил Албаниз.

По замыслу OpenAI, ИИ-программа должна была искать связанную со здравоохранением статистику. На нескольких австралийских правительственных сайтах она действовала так же, как действовал бы обычный пользователь, заявил вице-премьер Ричард Марлз. Однако на портале Medicare ИИ не обнаружил необходимую информацию в открытом доступе, после чего решил пойти другим путём.

«ИИ-агент нашёл способ обойти блокировки – он, так сказать, не хотел принимать „нет“ в качестве ответа», – заявил Албаниз. Сколько данных получил таким образом ИИ-взломщик, ещё устанавливается.

Неизвестно также, атаковал ли ИИ и другие сайты правительства Австралии. OpenAI сообщила, что во время внутренней проверки обнаружила активность на нескольких австралийских государственных сайтах: ИИ пытался найти правительственную статистику.

«При этом наши модели выполняли действия, которых мы не намеревались допускать», – заявил представитель компании.

Сайт "Страна" | X/Twitter | Прислать новость/фото/видео | Реклама на канале | Помощь