​​Упс. Продолжение про агентов в браузере, которых обсуждали на днях.

Попался на глаза интересный пост. Автор предупреждает не устанавливать агентные браузеры вроде OpenAI Atlas или Comet (поздно).

Пишет, что такие браузеры могут быть уязвимы к так называемым prompt-injection атакам, когда на странице спрятаны команды, которые человек не видит (например, белый текст на белом фоне), но ИИ их считывает.
Модель воспринимает эти скрытые тексты как инструкции и может начать выполнять их от вашего имени.

Если у неё есть доступ к переписке, файлам или аккаунтам, последствия могут быть неприятными - от утечки данных до действий в системах и приложениях без вашего ведома (ну так, решил что-нибудь прикупить на амазоне).

Любопытно, что Brave (это компания, выпускающая безопасный браузер с защитой приватности) тоже написала, что проблема не в одном конкретном браузере, а что вообще такие уязвимости встречаются у всех AI-браузеров.

Но есть проблемы и у агентов в обычных браузерах тоже, вчера у вашего админа агент Claude вместо того, чтобы просто написать черновик письма, сразу взял и отправил его - сам, без запроса. Потом сказал, что “больше так не будет”.

Нонтек работа в хайтеке
@nontechitech