📩 OpenAI признает неустранимость угрозы непрямой промпт-инъекции в ИИ браузерах.
Хотя номинальный лидер в сегменте больших языковых моделей описывает шаги, предпринятые для минимизации риска, многие представители индустрий ИИ/инфобеза уже высказывались в этом ключе.
Современные браузеры Atlas и Comet, главной фишкой которых является встроенный LLM-агент для автоматизации взаимодействия с интернетом, всегда будут подвержены такому виду атак, но их автономность и доступ к аккаунтам пользователя увеличивает риск многократно.

📍Комментарий экспертов Центра ИИ МГИМО:
Данные выводы можно в значительной степени расширить на произвольные агентные системы, но их развертывание в бизнес-контексте должно содержать строгую политику безопасности по части доступа к исходным данным и допустимых прав агентов.
ИИ браузеры, напротив, по своей природе обрабатывают посещаемые страницы через LLM, рискуя инъекцию, а обычный пользователь вряд ли будет соблюдать должный уровень цифровой гигиены для минимизации угрозы.