🤷‍♂️ «ИИ-браузеры никогда не станут безопасными» — OpenAI подтвердила, что её браузер ChatGPT Atlas дырявый

Компания выкатила огромный пост на тему атак «промпт инъекциями» — когда на сайты и в электронные письма встраивают скрытые промпты или команды, чтобы перехватить управление ИИ-агентом в браузере. И эти атаки никогда не будут устранены — их сравнивают с фишингом, который живёт уже много лет.

OpenAI даже показала живой пример подобной промпт-атаки — в нём скамер отправляет юзеру письмо на почту, ИИ-агент его сканирует, но вместо того, чтобы дать ответ юзеру, он отправляет заявление об увольнении начальнику (😵)

Чтобы минимизировать такие атаки, OpenAI сделала нейронку, которая сама их создаёт и закрывает дыры раньше хакеров. Но это не закроет 100% утечек.

ИИ-браузеры пока полежат на полке ⌨️

Пет-проект