В ChatGPT нашли скрытый канал между аккаунтами

Исследователи Check Point смогли заставить две изолированные среды ChatGPT обмениваться командами и данными через внутренний JFrog Artifactory.

Контейнеры разных пользователей не могли связываться напрямую, зато имели доступ к одному хранилищу программных пакетов. Его метаданные удалось превратить в общий буфер обмена.

Дальше исследователи добавили в разговор скрытую инструкцию. Пользователь задавал обычный вопрос и получал нормальный ответ, а ChatGPT в это же время забирал через внутренний канал второе задание.

В демонстрации модель обратилась к уже подключенному Gmail, получила сведения о письмах и передала их в другой аккаунт ChatGPT. Пароль Google для этого не крали: использовались права, которые пользователь ранее выдал подключенному приложению.

В основном ответе скрытая команда и переданные данные не отображались. В интерфейсе оставался небольшой индикатор обращения к Gmail.

К моменту публикации канал уже перестал работать. OpenAI подтвердила исследователям, что задействованный экземпляр Artifactory был выведен из эксплуатации. Данных о массовом использовании схемы против реальных пользователей нет.

https://anonhaven.com/news/v-chatgpt-nashli-skrytyj-kanal-dlya-peredachi-dannyh-gmail/

@Anonhaven | anonhaven.com