Исследователи обнаружили серьёзные уязвимости в ИИ-браузере

В браузере Comet от компании Perplexity выявлены критические уязвимости: встроенный искусственный интеллект легко поддаётся атаке через скрытые инструкции, невидимые для пользователя, но легко считываемые ИИ с изображений (например, со скриншотов). Это позволяет злоумышленникам внедрять вредоносные команды, которые браузер выполняет от имени авторизованного пользователя, открывая доступ к личной почте, банковским счетам и другим чувствительным данным. Эксперты отмечают, что такие атаки возможны из-за нечеткого разграничения между доверенным вводом пользователя и опасным контентом из интернета при формировании запросов к большой языковой модели. Аналогичные риски могут возникнуть и в других ИИ-браузерах, включая разрабатываемый OpenAI продукт.

📰 Источник