💻OpenAI признала что ИИ-браузеры не безопасны.

OpenAI опубликовала статью о своем ИИ-браузере ChatGPT Atlas, в которой указала какие меры предпринимаются, что использование браузера было безопасным.

В указанной статье корпорация признает, что «универсальность, которая делает браузерные агенты полезными, увеличивает и риски, агент может столкнуться с вредоносной информацией в неограниченном масштабе— в электронных письмах и вложениях, приглашениях в календаре, общих документах, на форумах, в постах в социальных сетях и на произвольных веб-страницах».

Если пользователь попросит агента просмотреть указанную информацию и кратко изложить ключевые моменты, агент может принять это в работу и по ошибке выполнить внедренные вредоносные инструкции.

Последствия успешной атаки могут быть масштабными: пересылка конфиденциального электронного письма, отправка денег, редактирование или удаление файлов в облаке и многое другое.

Несмотря на усиливающиеся меры защиты, внедрение инструкций по-прежнему представляет собой серьёзную проблему для безопасности, и работа над этой проблемой займет ещё долгие годы.