ИИ-браузер OpenAI Atlas взламывают промт-инъекциями — создатели признали уязвимость

Исследователи из Brave и независимые специалисты по безопасности показали, что новый браузер Atlas можно обмануть, встроив скрытые команды прямо в контент страницы.

Atlas «повёлся» даже на невидимую инструкцию в Google Docs — вместо резюме вывел сообщение «не доверяй ИИ». В OpenAI признали, что промт-инъекции — одна из самых сложных и пока нерешённых проблем безопасности агентных ИИ-систем.

@your_tech