⚔️ Брюс Шнайер: атаки на ИИ-агентов — это новый класс вредоносного ПО

Брюс Шнайер — один из самых известных экспертов по кибербезопасности в мире — опубликовал статью о новом типе угроз: «promptware» (вредоносные промпты).

Суть проблемы: все говорят о «prompt injection» как о простой уязвимости. Шнайер считает, что это опасное упрощение. На самом деле атаки на ИИ-системы — это полноценный класс вредоносного ПО, который развивается по своим правилам.

В статье описана «kill chain» из семи шагов — цепочка атаки на ИИ-агента:

1️⃣ Начальный доступ — вредоносная инструкция попадает в систему. Не обязательно через прямой ввод: она может быть спрятана на веб-странице, в email, в картинке или аудиофайле.

Главная проблема: ИИ не различает «команду от хозяина» и «текст с сайта». Для модели всё — просто токены. Нет границы между доверенными инструкциями и внешними данными.

Это значит, что вредоносная инструкция, спрятанная в обычном документе, выполняется с тем же уровнем доверия, что и системный промпт.

Для тех, кто работает с ИИ-агентами, это обязательное чтение. Агент, который читает почту, парсит сайты или обрабатывает документы — потенциальная мишень.

🔗 schneier.com/blog/archives/2026/02/the-promptware-kill-chain

Подпишитесь на @openclawc