Использование ИИ. Вопросы этики.

На прошлой неделе в одном профильном чате развернулась содержательная и очень практически-ориентированная дискуссия: данные доверителей и нейросети, что можно туда отправлять, что нельзя.

Вокруг этой темы, действительно, очень много непонятного и темного. Сами по себе нейросети выглядят для пользователя как черные и темные ящики. А страхи, как известно, живут в темноте и в тишине.

Отсюда две крайности – давайте все стерилизуем, ничего отдавать ничего не будем. Однако, очень часто задача в том и заключается, что надо анализировать клиентские данные (числа, даты, номера договоров, наименования контрагентов и т.д.) и стерилизовать-то нечего…, ну, кроме, персональных данных, конечно.

С другой стороны, все мы обмениваемся данными (в т.ч. персональными и часто очень чувствительными) через электронную почту, мессенджеры, делаем комнаты данных. У нас масса чувствительных данных в телефонах. Те, кто верят, что эти данные не анализируются никем, кроме отправителя и получателя, могут продолжать верить в это. Apple недавно рассказала, что делает с пользовательскими данными.

Аналогичным образом любая нейросеть логирует все запросы к себе. И свои ответы тоже. Это происходит, что в окне через веб интерфейс, что через API. А что далее происходит с этими логами известно только владельцам этих нейросетей.

Я согласен с базовым выводом сообщества, что надо согласовывать свои действия с доверителем и получать его разрешение на обработку чувствительных данных нейросетями. Пока не в Кодексе профессиональной этики адвокатов не появилось регулирование этих вопросов.