Исследователи из Университета Айовы проверили 20 популярных ИИ-чатботов и обнаружили неприятную тенденцию, многие сервисы передают данные переписки сторонним компаниям для аналитики, рекламы и мониторинга.
👀 Исследователи анализировали два типа утечек:
▪️ содержание общения (запросы пользователей, названия чатов, автоматически созданные на основе запросов, ссылки на диалоги, идентификаторы бесед).
▪️ сведения о пользователе (имя, адрес электронной почты, идентификаторы аккаунтов, файлы cookie, IP-адреса и технические параметры устройства).
Результаты:
▪️ 17 из 20 протестированных чат-ботов передавали информацию хотя бы одной сторонней организации.
▪️ 15 сервисов передавали ссылки на чаты или идентификаторы диалогов рекламным, аналитическим или социальным платформам.
▪️ В трёх случаях исследователи зафиксировали передачу фрагментов самих разговоров через инструменты записи пользовательских сессий. В передаваемых данных встречались части запросов и ответов чат-бота.
Примеры:
🔹Character.AI
Система мониторинга ошибок Sentry получала адрес электронной почты пользователя и его IP-адрес.
🔹 Genspark
В сервис был встроен виджет Google Maps. Когда пользователь задавал вопрос, связанный с поиском места или маршрута, полный текст запроса передавался в Google Maps через параметр URL.
То есть вместо передачи минимально необходимой информации вроде координат или названия локации сторонний сервис мог получить весь запрос пользователя вместе с контекстом.
Например, запрос вроде "Найди ближайшего психотерапевта рядом с моей работой" теоретически мог попасть в сторонний сервис целиком.
🔹 Pi AI и Poe
Исследователи обнаружили передачу ссылок на беседы и идентификаторов чатов сторонним сервисам аналитики.
Меры по снижению рисков, предложенные в статье:
▪️ Не включать запросы пользователей, названия чатов и идентификаторы бесед в URL и заголовки страниц.
Именно эти данные автоматически собираются многими аналитическими инструментами.
▪️Передавать сторонним виджетам только минимально необходимые сведения.
Если карта должна показать точку на местности, ей не обязательно знать весь текст разговора пользователя.
▪️Не использовать инструменты записи пользовательских сессий на страницах с чат-ботами без строгой необходимости.
Если они всё же используются, необходимо маскировать содержимое диалогов и данные аккаунтов.
▪️ Проверять настройки аналитики и мониторинга ошибок.
❕Многие пользователи воспринимают чат-бот как приватное пространство для общения. На практике, как видим, между пользователем и моделью могут находиться десятки дополнительных сервисов (аналитика, системы мониторинга ошибок, маркетинговые платформы, инструменты записи действий пользователей, службы поддержки). Каждый дополнительный участник увеличивает риск раскрытия данных, чем уже заинтересовались регуляторы (см.предыдущий пост).
✏️Что стоит проверить, закрепить в своей политике, либо постараться убрать:
▪️ Передаются ли идентификаторы чатов сторонним сервисам?
▪️ Получают ли системы аналитики содержимое сообщений или автоматически сгенерированные названия диалогов?
▪️ Действительно ли необходимы инструменты записи пользовательских сессий на страницах с чат-ботом?
▪️ Совпадает ли фактическая передача данных с тем, что описано в политике конфиденциальности?
▪️ Проверяли ли вы сетевой трафик собственного продукта после подключения очередного аналитического скрипта?
#UXWatch
————
@pattern_ai | AI GDPR Navigator