ИИ-браузер можно убедить, что 2+2=5 — и он перестаёт соблюдать правила безопасности.

Исследователи из LayerX показали: вредоносный сайт загружает LLM в «мир фантазии», где правила безопасности отключаются. Схема простая — браузеру предлагают головоломку, вознаграждающую за неверные ответы. Как только модель «принимает» искажённую реальность, ограничения перестают работать.

Дальше — извлечь код из приватного репозитория или вытащить пароли из встроенного менеджера. Всё это уже показано в демо-эксплойте.

Проблема не в конкретной дыре, которую можно залатать патчем. Проблема архитектурная: браузер доверяет контексту страницы так же, как своим системным инструкциям. Пока это не исправлено — каждый ИИ-браузер с доступом к вашим данным потенциально уязвим. ⚠️

Разбираем ИИ-инструменты для бизнеса →
ИИ Инструменты | Контент-завод | База знаний