Как персональные данные «путешествуют» через open-source AI: инструмент от CNIL

Французский регулятор CNIL вместе с LINC разработал демонстратор для изучения «генеалогии» AI-моделей в open source.
Цель: понять, как можно реализовать права на доступ, исправление или удаление персональных данных, если они использовались при обучении моделей.

👀 Что делает инструмент:

🔹показывает связи между моделями: от исходных («предки») до производных («потомки»).
🔹позволяет понять, какие модели могли «запомнить» данные конкретного человека.
🔹даёт возможность моделировать сценарии обращения за доступом, исправлением или удалением данных.

Пользователь может выбрать модель на HuggingFace и увидеть её генеалогию. Экспертный режим позволяет строить графы наследования моделей, полезные для исследователей и разработчиков.
Инструмент пока экспериментальный, помогает визуализировать и анализировать данные, но не всегда дает отправить прямой запрос на удаление.

Часто пользователи модифицируют open-source модели и выкладывают их снова, и каждая новая версия наследует данные предыдущих моделей. Понимание этих связей поможет отследить путь персональных данных и оценить, как реализовать GDPR на практике.

#AIShelf #UXWatch
————
@pattern_ai