Check Point обнаружила канал утечки данных между аккаунтами ChatGPT

Контейнеры ChatGPT были изолированы от интернета и друг от друга, но использовали общий внутренний JFrog Artifactory. Доступные операции позволяли одному аккаунту записывать данные в свойства объектов, а другому — читать их: изоляция оказалась не такой уж изолированной.

В демонстрации скрытая задача заставила ChatGPT вместе с ответом на обычный запрос прочитать данные из подключённого Gmail и отправить их в контейнер другого аккаунта. Атака могла затронуть пользователей подготовленных общих чатов и пользовательских GPT; ущерб зависел от доступных сессии данных и разрешений. Канал уже недоступен, а OpenAI подтвердила вывод этого экземпляра Artifactory из эксплуатации.

В статье — схема «общего буфера обмена», сценарии атаки и меры для подключённых сервисов.