Ваши разговоры с AI иногда читает не только AI

404 Media выяснило, что Microsoft использует человеческих подрядчиков для оценки работы Copilot. И в некоторых задачах они могут видеть реальные промпты пользователей и загруженные ими изображения.

Схема довольно обычная для обучения AI: оценщику показывают исходный запрос и несколько результатов модели, после чего он должен определить, какой вариант точнее выполнил задачу, сохранил детали фотографии и допустил меньше ошибок.

Необычным становится то, что находится внутри этих запросов.

По данным 404 Media, лица на пользовательских фотографиях могут оставаться видимыми, а подрядчики рассказывают, что среди материалов встречаются интимные изображения и очень личные запросы. Microsoft подтверждает использование пользовательских данных для улучшения своих сервисов в соответствии со своими правилами и настройками.

И это хорошее напоминание о вещи, которую легко забыть.

Интерфейс AI создаёт ощущение приватного разговора один на один. Но за моделью находится огромная инфраструктура: серверы, системы безопасности, обучение и иногда — реальные люди.

Поэтому правило становится довольно простым.

Не отправляйте AI то, что вы не хотели бы однажды увидеть на экране незнакомого человека.

Будущее по подписке