Канала Кати Розеноер про хайтек и все вокруг
@katyarozenoer -> написать
Законнектиться -> https://www.linkedin.com/in/katyarozenoer/
получить волшебный пинок -> https://round-condition-ae0.notion.site/1983716508788002bcf0dee0f85d48ff
@nontechat -> чат
Post #1343
2.91K
Упс. Продолжение про агентов в браузере, которых обсуждали на днях.
Попался на глаза интересный пост. Автор предупреждает не устанавливать агентные браузеры вроде OpenAI Atlas или Comet (поздно).
Пишет, что такие браузеры могут быть уязвимы к так называемым prompt-injection атакам, когда на странице спрятаны команды, которые человек не видит (например, белый текст на белом фоне), но ИИ их считывает.
Модель воспринимает эти скрытые тексты как инструкции и может начать выполнять их от вашего имени.
Если у неё есть доступ к переписке, файлам или аккаунтам, последствия могут быть неприятными - от утечки данных до действий в системах и приложениях без вашего ведома (ну так, решил что-нибудь прикупить на амазоне).
Любопытно, что Brave (это компания, выпускающая безопасный браузер с защитой приватности) тоже написала, что проблема не в одном конкретном браузере, а что вообще такие уязвимости встречаются у всех AI-браузеров.
Но есть проблемы и у агентов в обычных браузерах тоже, вчера у вашего админа агент Claude вместо того, чтобы просто написать черновик письма, сразу взял и отправил его - сам, без запроса. Потом сказал, что “больше так не будет”.
Нонтек работа в хайтеке
@nontechitech
Попался на глаза интересный пост. Автор предупреждает не устанавливать агентные браузеры вроде OpenAI Atlas или Comet (поздно).
Пишет, что такие браузеры могут быть уязвимы к так называемым prompt-injection атакам, когда на странице спрятаны команды, которые человек не видит (например, белый текст на белом фоне), но ИИ их считывает.
Модель воспринимает эти скрытые тексты как инструкции и может начать выполнять их от вашего имени.
Если у неё есть доступ к переписке, файлам или аккаунтам, последствия могут быть неприятными - от утечки данных до действий в системах и приложениях без вашего ведома (ну так, решил что-нибудь прикупить на амазоне).
Любопытно, что Brave (это компания, выпускающая безопасный браузер с защитой приватности) тоже написала, что проблема не в одном конкретном браузере, а что вообще такие уязвимости встречаются у всех AI-браузеров.
Но есть проблемы и у агентов в обычных браузерах тоже, вчера у вашего админа агент Claude вместо того, чтобы просто написать черновик письма, сразу взял и отправил его - сам, без запроса. Потом сказал, что “больше так не будет”.
Нонтек работа в хайтеке
@nontechitech
- 😱 24
- 😁 7
- 👍 5
- ❤ 1
- 🔥 1







