Хакеры нашли способ красть данные через «нулевой клик» в ChatGPT

Исследователи из Tenable обнаружили семь уязвимостей в ChatGPT, которые позволяют красть пользовательские данные без каких-либо действий со стороны жертвы. Самая опасная — «нулевой клик»: достаточно, чтобы вредоносная страница оказалась в поиске, и ChatGPT сам обратится к ней при обычном вопросе.

Другие приёмы включают обход проверки ссылок, скрытые команды в markdown и даже внедрение в долговременную память модели. По сути, злоумышленник может «отравить» ChatGPT так, что тот будет утекать данными даже в новых сессиях. OpenAI уже получила отчёт и устраняет часть уязвимостей. Но исследователи считают, что сама архитектура LLM всё ещё слишком доверчива.