Демонстрация дыры в системе долговременной памяти ChatGPT. С помощью неё, используя вредоносный запрос, который позволит вставить данные в память приложения. Затем данные могут быть извлечены, что приведёт к доступу к личным разговорам внутри.

Эта атака сохраняется даже после завершения первоначального разговора, что означает, что злоумышленник может продолжать отслеживать и собирать конфиденциальную информацию из последующих взаимодействий с ChatGPT.

Сергей Булаев AI 🤖 - об AI и не только