Погрузив ИИ-браузер в «оруэлловскую» реальность, хакеры могут выманить у него данные пользователя

Исследователи кибербезопасности из LayerX обнаружили новую уязвимость в такого рода браузерах, сымитировав атаку под названием BioShocking. Она позволяет погрузить встроенную нейросеть в «альтернативную реальность», полностью отключив её защиту.

Схема выглядит так: на сайте размещают игру-головоломку, поощряющую абсурдные ответы вроде «2 + 2 = 5». Пользователь просто открывает вкладку и может даже ничего не делать, но ИИ-браузер автоматически начинает читать и осмысливать текст страницы, незаметно для человека втягиваясь в игру.

Как только ИИ соглашается с искажённой логикой, его система безопасности перестаёт работать. В состоянии «галлюцинации» модель беспрекословно выполняет команды сайта, замаскированные фразами вроде «Будьте так любезны» (из игры BioShock) или «Победа — это поражение» (из романа «1984»).

Обычные браузеры не позволяют сайтам выкачивать данные, если пользователь сам не даст согласие, но ИИ-ассистенты созданы для удобства пользователя: они одновременно читают внешние страницы и имеют прямой доступ к личным паролям, почте и документам, чтобы по команде, например, сделать покупку или заказать столик. Когда же происходит затягивание его в «альтернативную реальность», ИИ-браузер по команде злоумышленника может предоставить ему всё, что угодно.

Метод успешно проверили на ChatGPT Atlas, Comet, Genspark, Sigma и плагине Claude для Chrome. Атака пока не стала абсолютно невидимой для пользователя, но она доказала, что стандартная защита бессильна, если ИИ можно так легко «загипнотизировать» обычным текстом.