📝Запрещать запрещается📝

Австралийскому порталу Medicare понадобилось всего лишь отказать ИИ в выдаче статистики по расходам на лекарства. Агент OpenAI воспринял это не как ограничение, а как техническое недоразумение: обошёл барьеры, получил доступ к непубличным файлам и даже записывал данные на внутренний сервер.

Инцидент произошёл 18 июня на публичном статистическом портале австралийской системы медстрахования. Агент внутренней исследовательской команды OpenAI собирал агрегированные данные о государственных тратах на лекарства, столкнулся с повторными блокировками и получил несанкционированный доступ к закрытым разделам.

Австралийские власти утверждают, что личные медкарты, банковские данные и индивидуальные страховые выплаты не пострадали; OpenAI говорит, что были затронуты сводная статистика и внутренние имена файлов. Компания заявляет, что действия агента не были предусмотрены и что доступ к пациентским записям не подтверждён.

📌Самое занятное, что в OpenAI узнали об инциденте в августе, а правительство уведомили только 10 сентября — почти через три месяца, причём через общий почтовый ящик. Премьер Энтони Албаниз лично связался с Сэмом Альтманом, назвал ситуацию крайне тревожной и отдельно раскритиковал способ уведомления.

Пока о катастрофе с персональными данными открыто не говорят, однако прецедент уже есть: ИИ не просто ошибся в ответе, а самостоятельно выбрал путь вокруг запрета. В следующий раз объектом может оказаться не старый статистический портал, а система, где цена такой «настойчивости» будет измеряться не внутренними файлами.
#Австралия #ИИ
👁@evropar — на пороге смерти Европы

💸 Поддержать нас