Я уже писал о судебном кейсе, где передача персональных и корпоративных данных в публичную нейросеть стала одним из обстоятельств увольнения сотрудника.
Но за всеми рассуждениями о том, кто виноват, стоит гораздо более практический вопрос. Что сделать в компании, чтобы таких случаев не происходило?

Я убежден, что одними запретами проблему не решить. Если ИИ экономит сотруднику два часа работы, он найдёт способ им воспользоваться. Я видел в своей практике разные кейсы. Хорошо ещё, если это будет просто второй ноутбук рядом вне корп. контура, как в одной очень большой синей компании.

Поэтому я бы начал с шести вещей:
1️⃣ Дать людям разрешённые инструменты. Корпоративный доступ к моделям с понятными условиями хранения данных или собственный защищённый контур. Запрещать удобный инструмент, не предлагая альтернативы, довольно бессмысленно.

2️⃣ Сделать простую классификацию данных. Например: табличка, зелёным помечено то, что можно загружать во внешние модели; жёлтым - сначала нужно обезличить; красные маркеры показывает, что с этими данными работаем только внутри контура. Человеку должно быть понятно за минуту, к какой категории относятся данные, с которыми он планирует поработать. Ну и если система управления требует, это можно закрепить соответствующими ЛНА.

3️⃣ Контролировать сам канал передачи. DLP и ИИ-шлюзы уже позволяют анализировать промпты и вложения до отправки, маскировать чувствительную информацию или блокировать конкретные запросы. То есть полагаться можно не только на внимательность человека.

4️⃣ Добавить «умное трение» в опасных местах. Мне очень нравится эта идея, но скажу честно, сам её полноценно не использовал контексте ИИ. Вместо того, чтобы показывать всем очередное окно «ознакомьтесь с политикой безопасности», такой подход предлагает вмешиваться только в момент риска. Система обнаружила в промпте персональные данные и предлагает три действия: автоматически обезличить, перейти в защищённую модель или запросить исключение. Человека не тормозят постоянно, но заставляют подумать именно тогда, когда это нужно. Сейчас экспериментирую с такой механикой в одном из моих pet-проектов.

5️⃣ Разделять обработку чувствительных задач между моделями. Это решение мне нравится более всего. Локальная небольшая модель получает исходные документы, делает таблицы сопоставлений (если нужно) и превращает их в обезличенную структуру. Сильная внешняя модель решает задачу уже на очищенном контексте. Затем результат собирается обратно внутри компании. Внешняя модель получает смысл задачи, но не исходные данные. А на выходе для пользователя понятные и удобные отчеты.

6️⃣ Учить людей на реальных рабочих ситуациях. Не «нельзя загружать конфиденциальную информацию в нейросети», а: вот CRM-выгрузка, вот договор, вот резюме кандидата, вот протокол совета директоров. Что из этого можно отправить и куда? Что нужно предварительно изменить? Как раз недавно на таком примере показывал, как анонимизировать данные клиентов, когда нужно сделать аналитику с помощью публичных ИИ сервисов.

Важная оговорка в том, что я смотрю на вопрос, как руководитель. И, думаю, некоторые безопасники в меня могут чуть-чуть покидаться помидорами, утверждая, что полные запреты все же надежнее. Но я уверен, что здесь полезно изменить сам взгляд на информационную безопасность.

Запрещать что-то почти бесполезно. Люди найдут обходные пути, если это им реально нужно. При этом хорошая система, конечно, не должна рассчитывать, что каждый сотрудник будет всегда внимательным, спокойным, будет идеально помнить и соблюдать регламент. Люди спешат, ошибаются и хотят быстрее сделать работу. Задача в том, чтобы сделать безопасный способ работы самым простым и удобным из доступных.