Раннее обучение ChatGPT нарушало законы о приватности (Канада)

Офис комиссара по защите приватности Канады совместно с регуляторами Квебека, Британской Колумбии и Альберты опубликовал результаты многолетнего расследования против OpenAI, которое началось в 2023 году после жалобы о незаконном сборе и использовании персональных данных через ChatGPT.

👀 По результатам, сбор данных для обучения GPT-3.5 и GPT-4 был чрезмерным и не обеспечивал действительное и осознанное согласие пользователей.

Регуляторы отдельно указали на:
▪️ массовый сбор персональных данных из открытого интернета;
▪️ попадание в датасеты чувствительной информации, включая данные о здоровье, политических взглядах и информацию о детях;
▪️ недостаточную прозрачность для пользователей;
▪️ отсутствие эффективных механизмов удаления и исправления данных;
▪️ запуск моделей до полноценной оценки рисков для приватности.

Обратите внимание на вывод, что публичная доступность информации в интернете не означает автоматического права использовать ее для обучения ИИ.
Вместо жестких санкций или запрета работы ChatGPT регуляторы поверили обещаниям компании про перестраивание процессов😉

Что забираем себе, если модель обучается на пользовательском контенте, то разработчик должен доказать:
▪️ законность источников данных;
▪️ пропорциональность сбора;
▪️ прозрачность обработки;
▪️возможность удаления персональных данных;
▪️наличие оценки рисков еще до запуска системы.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator