Пароль от истории болезни лежал в памяти агента: как ИИ обманом заставляют слить чужие секреты

Агент EHRAgent работает с медицинскими картами и помнит весь контекст переписки. Исследователи прогнали через него безобидный на вид запрос и вытащили диагнозы прошлых пациентов прямо в консоль.

⏺Атака называется MEXTRA, локатор в промпте указывает модели, какие данные искать в истории диалогов, выравниватель заставляет оформить находку так, чтобы она сама выехала в чат под видом кода. EHRAgent сгенерировал скрипт с печатью диагноза, сервер его выполнил, и тайна ушла обычным текстовым выводом.

↪️ Читать статью

Бункер Хакера | Zeroday | #Статья