У OpenAI тоже нашлась уязвимость с Gmail 😂. Кажется дать доступ агенту к своей почте - самое опасное решение.

Уязвимость нашлась в агенте Deep Research. Она позволяла извлекать данные из Gmail через скрытые инструкции в письмах. Пользователи не замечали подвоха: агент автоматически выполнял вредоносные команды.

Уже можно сказать классика. Всё та же промпт-инъекция, которую мы видели во всех агентах до этого. И все разработчики наверняка в курсе. Только фиксят исключительно после очередного "исследования на уязвимости". И фиксят ли?) Изменить системный промпт - это еще не всё.

🔛 @kisel_it

#news #ai