⚡️ Скрытый текст в PDF может угнать ИИ-ассистента: исследователи показали новую атаку

PDF-файл, который выглядит совершенно безобидно, может содержать скрытые команды для искусственного интеллекта. 🤔 Исследователи PromptArmor продемонстрировали, как такой документ способен перехватить управление корпоративным ИИ-ассистентом Atlassian Rovo и заставить его передать злоумышленнику содержимое Jira и Confluence. Атака относится к классу indirect prompt injection — косвенных инъекций промптов, которые становятся одной из наиболее серьёзных проблем безопасности современных ИИ-агентов. 💯

Почему пользователь не замечает скрытую команду в файле?

💯 — ИИ-ассистент становится уязвимым для скрытых команд
🤔 — Атака демонстрирует слабость в защите данных пользователя