Перед передачей информации в LLM эксперты Comindware рекомендуют:
1️⃣ Ограничить использование либо маскировать и очищать в локальном ИИ структурированные персональные данные (телефоны, паспорта, e-mail и другие сведения из баз или форм).
2️⃣ Использовать локальные ИИ-модели распознавания сущностей для обезличивания неструктурированного текста (имена, должности в документах и пр.).
3️⃣ Передавать в LLM только обезличенные данные.
4️⃣ Обезличивать, шифровать и ограничивать данные еще на этапе индексации документов — до того, как они попадут в зону поиска ИИ.
5️⃣Хранить журналы (телеметрию) работы ИИ-агента без «сырых» персональных данных.
⚠️ Важно также понимать:
где размещается ИИ-инфраструктура и хранятся данные,
кто имеет доступ к логам и журналам системы,
насколько безопасны внешние библиотеки и подключённые сервисы,
какие данные ИИ-агент запоминает надолго,
как распределяется ответственность между вендором, интегратором и заказчиком.
Подробнее