Как запустить ИИ-продукт и не столкнуться с юридическими рисками

Чат-боты и ИИ-агенты могут собирать и анализировать данные, обрабатывать заказы, общаться с клиентами, отвечать на письма и прогнозировать спрос.

Создать базовый продукт сегодня можно достаточно быстро и без глубоких навыков программирования. Однако ошибки на этапе разработки и запуска могут привести к претензиям правообладателей и штрафам за нарушение законодательства о персональных данных.

Разбираемся с экспертами практики Legal Tech и автоматизации процессов BGP Litigation, партнером Евгением Журба и юристом Полиной Штерн, что необходимо предусмотреть перед запуском.

1️⃣ Первый шаг — определить, в какой сфере будет использоваться продукт и какие задачи он решает.

Это нужно, чтобы проверить, существуют ли в выбранной отрасли дополнительные ограничения и контроль. Особенно внимательно такие вопросы необходимо прорабатывать компаниям, которые работают с критической инфраструктурой или чувствительной информацией.

2️⃣ При выборе модели для ИИ-продукта важно проверить:

✔️ Лицензию и возможность коммерческого использования. Некоторые модели разрешено использовать только в исследовательских или некоммерческих целях.

✔️ Ограничения по пользователям, отраслям и выручке. Условия лицензии могут меняться в зависимости от масштаба продукта или сферы его применения.

✔️ Допустимые сценарии использования. Отдельные ограничения могут распространяться на медицинские и юридические рекомендации, автоматизированное принятие решений, дискриминационные практики или обучение других моделей.

✔️ Права на входные данные и результаты работы модели. Необходимо определить, кому принадлежат загружаемые материалы и созданный контент, можно ли его коммерциализировать и кто отвечает за возможные нарушения.

✔️ Возможность дообучения.

✔️ Требования к персональным данным и трансграничной передаче. Если данные загружаются в проприетарную зарубежную модель, необходимо предусмотреть, например, модуль предварительной анонимизации. Иначе возникает риск многомиллионного штрафа за утечку персональных данных.

✔️ Авторские права и права на обучающие данные. Юридической защиты могут требовать не только код и интерфейс, но и датасеты, системные инструкции, промпты, векторные базы, результаты разметки и дообучения.

✔️ Применимость иностранного регулирования. Помимо применимого права и суда для разрешения споров, следует проверить доступность модели в конкретной стране. Если ее нельзя использовать в России, аккаунт могут заблокировать.

3️⃣ После запуска необходимо урегулировать взаимодействие с пользователем.

В интерфейсе и пользовательских документах следует прямо указать, что человек общается с ИИ, а сам продукт является вспомогательным инструментом и не заменяет консультацию специалиста.

Пользователя также важно предупредить, что ИИ может:
✔️ допускать ошибки;
✔️ выдавать неполную информацию;
✔️ некорректно интерпретировать факты;
✔️ ссылаться на несуществующие источники;
✔️ делать выводы, которые требуют проверки специалиста.

Если продукт используется в сфере с повышенными рисками, целесообразно ограничить ответы на отдельные темы либо предусмотреть проверку результатов ответственным специалистом.

4️⃣ Отдельное направление работы — персональные данные и все виды тайн.

Необходимо определить основания их обработки, получить необходимые согласия, подготовить политику конфиденциальности и установить правила загрузки информации пользователями.

Дополнительно в пользовательских документах стоит предусмотреть дисклеймер о соблюдении законодательства и этики поведения при использовании продукта.

➡️ Более подрлбно можно изучить в статье от Право.ру.

#BGPanalytics