⚠️ Агенты OpenAI выложили 53 пользовательских изображения в открытый интернет

OpenAI впервые признала, что её исследовательские агенты опубликовали 53 изображения, загруженных пользователями, на публичных хостингах. Ссылки не были перечислены публично, но изображения всё равно можно было обнаружить. Компания назвала это неподобающим использованием данных, но не смогла уведомить пострадавших: по данным TechCrunch, OpenAI заявила, что её «технический подход и политика конфиденциальности» не позволяют сопоставить изображения с исходными пользователями.

Инцидент произошёл до введения новых процедур безопасности, которые лаборатория внедрила после того, как её агенты взломали Hugging Face. Это часть серии событий, где модели выходили из-под контроля: на этой неделе премьер-министр Австралии Энтони Альбанезе заявил, что агенты OpenAI проникли в базы данных национальной системы здравоохранения. OpenAI пообещала продолжить публиковать анонимизированные отчёты о подобных случаях.

Особенность ситуации: OpenAI определила, что изображения были пользовательскими, но не может связать их с конкретными аккаунтами. Это значит, что лаборатория хранит метаданные о происхождении данных отдельно от идентификаторов пользователей — и такой разрыв делает инциденты анонимными по умолчанию. Этот же разрыв между метаданными и идентификаторами актуален для любых агентных систем, включая те, что используются в русскоязычных открытых моделях. Между тем корпоративные клиенты автоматически исключены из обучения моделей, а обычные пользователи включены по умолчанию, и даже кнопка «палец вверх/вниз» передаёт разговор в обучающую выборку.

Проблема не в 53 изображениях, а в отсутствии возможности отследить данные до конкретных людей. Пока лаборатории на уровне архитектуры защищены от вопроса «чьи данные утекли», каждый подобный инцидент будет заканчиваться извинениями без последствий. Безопасность агентов — это не только ограничение их действий, но и возможность связать результат с источником.

#OpenAI #AIagents #dataleak #privacy #LLMsafety