Работа с риском конфиденциальности LLM

Сохранение конфиденциальности и взлом LLM - это как щит и меч: бесконечная эволюция. Поэтому нельзя однозначно утверждать, что сейчас сильнее.

Это приводит к тому, что никто не может дать гарантию конфиденциальности при работе с LLM. Из недавнего - оказывается, чтобы сделать backdoor - тропинку, через которую потом можно взломать модель и достать из нее что угодно - достаточно 250 документов. В масштабах обучения LLM - это капля в море, миллионные доли процентов (если не меньше).

Отсутствие гарантии конфиденциальности может быть воспринято как запрет использовать LLM в работе юриста. Но мне такой подход не близок: а где вообще в техническом мире есть что-то гарантированное? Любую базу данных взломают, но тем не менее все продолжают хранить данные не на бумаге, а в цифре.

Поэтому я вижу такой путь: распределение риска конфиденциальности с клиентом и получение его согласия на использование LLM в его проекте. Если спор небольшой / чувстительность документов невысокая - то использование LLM может быть оправдано. Какая польза от этого клиенту? Разумеется, скидка на юридические услуги или меньшие сроки на выполнение поручения.

У LLM есть и другие риски, которые также нужно распределять - риск того, что LLM не даст результата или даст отрицательный результат. Например - LLM среди 10 тыс. документов ничего не нашла (но нашел оппонент и выиграл), или LLM сделала неверные выводы (которые успешно опроверг оппонент). Об их возможном распределении напишу позже.