🤩🤩🤩🤩 «Освоить джейлбрейк может даже двоечник»: массовое внедрение LLM в России создаёт новые риски для бизнеса

❗️Генеративный ИИ уже используют 70% российских компаний — уровень цифровизации бизнеса, по некоторым данным, опережает США. Но скорость внедрения технологий превышает скорость организации защиты. Злоумышленники активно применяют джейлбрейк и промпт-инъекции: с помощью нескольких запросов на естественном языке можно обойти ограничения модели и вытянуть конфиденциальные данные, получить доступ к внутренним системам или даже зашифровать компанию.

💻Эксперты предупреждают: корпоративные LLM — идеальная точка входа для атак, так как джейлбрейк не оставляет следов и не отслеживается стандартными сканерами. Последствия — утечка тендерной документации, регуляторные риски и репутационный ущерб. В США ИИ уже стал крупнейшим источником утечек корпоративных данных, по России данные скупы, но из-за уровня внедрения ИИ ситуация может оказаться ещё острее.

Подробнее — в материале SecPost 😍