К такому выводу пришли в Harmonic Security, проанализировав 176 тысяч промтов и тысячи файлов от 8 тысяч пользователей по всему миру. В каждом двенадцатом запросе к ИИ утекают персональные данные, клиентские базы, финансовые и юридические документы и куски кода.

В опросе KPMG и Мельбурнского университета 70% сотрудников рассказали, что для работы используют бесплатные модели. 48% честно признались, что загружают в них информацию, которую начальство точно не одобрило бы.

Риски уже подтвердились громкими кейсами. Весной 2023-го в Samsung фрагменты исходного кода и клиентских данных оказались в открытом доступе в сети из-за человеческого фактора. Amazon обнаружил утечку, когда в ответах ChatGPT были обнаружены конфиденциальные данные, предположительно попавшие туда от сотрудников. Согласно Security Magazine, 68% компаний к 2025 году уже столкнулись с утечкой данных из-за неосторожного использования ИИ сотрудниками.

Как компаниям снизить риск утечек

🔹 Внедрять многоуровневые политики доступа — чем меньше данных видит один сотрудник, тем сложнее унести что-то ценное в промт.

🔹 Ограничивать использование личных аккаунтов и сторонних приложений, чтобы команда использовала только одобренные компанией LLM, а чувствительная информация не покидала корпоративный контур.

🔹 Добавлять автоматические фильтры и анонимизацию — перед отправкой запроса данные проходят автоматическую анонимизацию, и конфиденциальные детали не доходят до нейросети.

🔹 Обучать сотрудников безопасной работе с ИИ — с примерами реальных инцидентов, чтобы сотрудники понимали последствия ошибок.

Подписывайтесь 👉 @yab2btech