💀 ChatGPT подставили при краже данных

Исследователи из Redware показали атаку Shadow Leak где ChatGPT выступил непреднамеренным сообщником — через скрытые инструкции в письме и метод инъекции промптов ИИ-агент собирал личные данные из Gmail. OpenAI закрыла уязвимость, но пример показывает реальные риски автоматических агентов.

Хитрая атака работала так — в письмо вставили спрятанный текст с инструкциями, пользователь открывал его и запускал инструмент Deep Research, агент считывал скрытые команды, искал письма от HR и передавал данные злоумышленникам. Исследователям пришлось долго добиваться воспроизведения, поэтому массовых угонов пока не отмечено, но уязвимость скрывалась в облачной логике и была труднообнаружима штатными средствами защиты.

В зоне риска могут быть и другие сервисы с доступом к агенту — Outlook, Google Drive, GitHub, Dropbox.

————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес