OpenAI запустила Lockdown Mode для ChatGPT - специальный режим для работы с чувствительными данными.
✈️Что важно:
• отключаются Web Search, Deep Research и Agent Mode
• блокируется доступ к интернету и внешним сервисам
• режим можно включать для отдельных пользователей и команд
Причина — prompt injection.
Это атака, когда вредоносные инструкции прячут в документах, письмах или веб-страницах. ИИ может их выполнить, даже не подозревая об этом.
Самое интересное здесь не новая функция.
Самое интересное — спустя годы исследований OpenAI фактически признаёт, что prompt injection всё ещё остаётся нерешённой проблемой.
Но видимо пока лучше рубильника ничего не придумали 🙂
Похоже, главный вопрос AI ближайших лет — уже не качество моделей, а безопасность доступа к реальному миру.