❗️Безопасное использование ИИ: как снизить риски

В начале 2026 года может состояться первое чтение законопроекта о маркировке генеративных видео. Согласно инициативе, владельцы площадок, где размещается такой контент, будут обязаны помечать его. Принятие закона может стать первым серьезным шагом в борьбе с недобросовестным ИИ-контентом. И однозначно не последним.

Риски, связанные с ИИ-контентом, очевидны: нейросети уже могут создавать изображения и видео, с трудом отличимые от реальных. С помощью таких инструментов открывается пространство для незаконной деятельности: от мошенничества с использованием дипфейков до намеренного распространения недостоверной информации.

Но сегодня мы хотим обсудить другой аспект — использование нейросетей для корпоративных задач. Языковые модели способны взять на себя очень многое: от написания текстов до разработки и аналитики, что значительно упрощает рабочие процессы. И чем больше информации получает нейросети, тем более качественный результат она может предоставить.

Однако такая практика ведет к бесконтрольному распространению практически любых данных в неизвестных направлениях. По нашему опыту, большинство сотрудников не задумываются о том, чем они делятся с ИИ. В то же время, разработчики нейросетей хранят все диалоги пользователей. Напрмер, ChatGPT уже давно обучается взаимодействию с пользователем, запоминает важные факты и детали предыдущих диалогов, используя их по своему усмотрению даже тогда, когда это не предполагалось. Отсюда возникают разумные вопросы — хорошо ли эта информация защищена? могут ли злоумышленники завладеть ей? И ответы вам вряд ли понравятся.

— разработка своей собственной, корпоративной нейросети on-premise

Очевидный, но дорогой, долгий и болезненный путь. Плюсы: полная изоляция, полный контроль, полная кастомизация. Главный минус — это крайне дорого. Чтобы внедрить такое решение, почти всегда необходимы колоссальные вычислительные мощности, выделенные команды разработки и поддержки. Наконец, значительные инвестиции в безопасность этого решения.

Несмотря на сложность этого пути, некоторые крупные федеральные компании уже сделали это, или делают прямо сейчас. Но для абсолютного большинства он не подходит — размер инвестиций колоссальный, а прямое влияние на эффективность бизнеса под вопросом.

— обезличивание информации, которая попадает к ИИ

Значительно минимизировать соответствующие риски возможно, если перед обменом информацией с нейросетью, вы сможете исключить оттуда конфиденциальную часть. Самопроверка простая — спросите себя, могут ли эту информацию в текущем виде использовать злоумышленники? Если ответ положительный, значит обезличили недостаточно.

Главный плюс — это бесплатно (кроме, разве что, подписки на ИИ). Но есть и минусы — не всегда возможно четко оценить степень конфиденциальности информации, поэтому что-то может быть упущено; это занимает время; обезличенных данных может быть недостаточно для качественного результата.

А еще, это можно обернуть в корпоративный процесс, обложить соответствующими инструкциями и проверками знаний.

— гибридный сценарий

Если разрабатывать свою корпоративную нейросеть дорого, но без ИИ никак, рассмотрите компромиссный вариант: упрощенный ИИ для обезличивания информации. Такое решение, скорее всего, будет относительно недорогим и простым в обслуживании, но позволит исключить человеческий фактор и выиграть время на ручную проверку.

Логика работы — любые данные, прежде чем попасть к нейросетям, в обязательном порядке проверяются через это решение на предмет содержания конфиденциальной информации. И только после того, как данные будут признаны безопасными, их можно будет вынести за пределы корпоративного контура.

Очевидно, что ни один из сценариев не гарантирует полную безопасность, но предпринимать меры нужно уже сейчас. Развитие нейросетей только набирает обороты, а в ближайшие 10 лет этот рынок многократно увеличится. Поэтому в отсутствии наработанных инструментов защиты и правоприменительных практик особенно важно сохранять осторожность и бдительность.

@finance_ciso