Министерство внутренней безопасности США (DHS) получило федеральный ордер, обязывающий OpenAI раскрыть личность пользователя и историю его промптов в ChatGPT.
🔍 Ключевые детали дела:
запрос был инициирован следователями DHS по делу об эксплуатации детей для выявления пользователя, который, по утверждению следствия, обсуждал с агентом под прикрытием свое использование ChatGPT,
включая конкретные подсказки и частичные или полные ответы. Основываясь на этой информации, правительство запросило и получило ордер для OpenAI на «различную информацию о человеке, который вводил подсказки, включая подробности других разговоров с ChatGPT, имена и адреса, связанные с соответствующими учётными записями, а также любые платёжные данные». В заявлении указаны два «уникальных, конкретных» запроса и «уникальные ответы», сгенерированные ChatGPT.
Это первый именно известный случай, когда ИИ провайдера заставили раскрыть данные на уровне введенных промптов.
👀 Почему этот кейс важен для всех пользователей:
🔹Становится очевидно, что любой запрос, отправленный в ИИ-сервис, может быть рассмотрен как потенциальное доказательство и стать предметом судебного разбирательства.
🔹Если промпты идентифицируемы и могут быть запрошены, важно знать, как долго данные хранятся, под какими идентификаторами и насколько они анонимны.
🔹AI‑сервисы, обещающие «приватность», должны уточнять, что данные могут быть раскрыты по судебному запросу.
🔹Если данные хранятся в США и могут быть раскрыты по американскому ордеру, это поднимает вопросы соответствия GDPR и трансграничной передачи данных для пользователей ЕС/Великобритании.
Напомню еще про кейс The Center for Investigative Reporting, Inc. and New York Times v. OpenAI, Inc., где Окружной суд США по Южному округу Нью-Йорка потребовал, чтобы OpenAI сохранял ( в том числе удаленные чаты ChatGPT и API-контент, который обычно автоматически удаляется из систем в течение 30 дней) и сегрегировал все чаты , что демонстрирует судебный интерес не только к промтам пользователей, но и к данным, создаваемым AI.
И только в октябре OpenAI уведомило пользователей, что вернулось к стандартным практикам хранения данных.
В отчётах о прозрачности OpenAI говорится, что во второй половине 2024 года компания получила в общей сложности 71 запрос от гос. органов на предоставление данных пользователей.
В цифровом мире, где промпты приравниваются к цифровым уликам, лучшая защита - это не делиться тем, что вы не готовы сделать публичным.
📌 Что почитать:
▪️Eight (or so) Questions to Ask about the ChatGPT Warrant/ CIS Stanford Law School;
▪️Ultimate Guide how ChatGPT, Perplexity and Claude use Your Data;
▪️Перечень вариантов использования ИИ Министерством внутренней безопасности (DHS) США
#UXWatch
————
@pattern_ai