Использование чувствительных данных гос.сектором для обучения ИИ: пример ICDC и не только

Разведсообщество США планирует запустить платформу ICDC — централизованный «цифровой магазин» для покупки чувствительной персональной информации о миллионах людей (геолокация, соцсети, биометрия, финансы, мед.данные — то, что раньше выдавалось только по решению суда). Теперь 18 агентств, включая ЦРУ, АНБ и ФБР, смогут получать эти данные автоматически, через единый портал с поддержкой ИИ. Среди функций — генеративные модели и «анализ настроений» граждан.
Напомню, что агрегация, казалось бы, безобидных фрагментов информации может раскрывать чувствительные детали о человеке, например исследование Стэнфордского университета показало в GPT-4. ODNI признаёт, что данные могут причинить «значительный вред, стыд и неудобство». При этом контроль за их чувствительностью — на усмотрение продавцов, а не независимых структур.

По мнению юристов и правозащитников, это нарушает границы приватности, способствует дискриминации, повышает риски репрессий и цензуры. Коммерциализация фактически создает «лазейку» для наблюдения и возможности обойти необходимость получения судебного постановления. Сенатор Рон Уайден прямо предупреждает: новая администрация может использовать ICDC для массовой слежки, включая отслеживание мигрантов, выявление протестующих по перемещениям и браузингу. В то же время законодательная инициатива Fourth Amendment Is Not For Sale Act, запрещающая госорганам и спецслужбам покупать данные о клиентах у брокеров без ордера и использовать такие данные в суде (кейсы Carpenter v. US, 2018), пройдя Палату Представителей,так и остается в Сенате.

Государства естественно стремятся собрать и использовать как можно больше данных. GPAI OECD разработана дорожная карта для поддержки правительств в принятии обоснованных решений о том, когда и как делиться данными с внешними субъектами для развития инноваций. Используется три подхода: one-to-one data sharing, one-to-many data sharing, many-to-many data sharing.
Посмотрим некоторые инициативы:
- Репозитории открытых данных (Chile's Open Data Platform - открытые данные под лицензией CC-BY — свободно доступны для любых целей).
- Песочницы ( Сингапурская Data Regulatory Sandbox позволяет тестировать решения в безопасной среде с соблюдением PDPA).
- Государственные сервисы, например, Тайваньский Health Passbook -граждане могут делиться своими медицинскими данными с третьими сторонами. Бразильский «dWallet» - первая в мире инициатива, где граждане могут продать свои собственные данные (финансовые, медицинские, кредитные/контрактные) через кошелек данных и пересмотреть саму экономическую модель владения данными.
В РФ Минцифры предлагает собирать обезличенные данные от организаций для эффективного решения госзадач (где построить дороги, школы) или научных целей в специальной государственной информационной системе. Подчеркивается, что в наборы данных нельзя включать биометрические и чувствительные сведения (о религии и т.д.). Доступ к обезличенным данным смогут получить представители организаций, компаний, органов власти. Подать запрос на получение набора данных можно через личный кабинет с указанием цели, планируемого результата, времени использования наборов данных и основания.

Субъекты, включая брокеров данных, которые продают данные государственным учреждениям, могут стратегически собирать или обрабатывать данные в юрисдикциях с более мягкими определениями «персональных данных» или где общедоступные данные явно исключены из защиты законов о конфиденциальности со всеми вытекающими последствиями.

Растущий доступ к чувствительным данным требует:
От компаний, взаимодействующих с гос.сектором:
- продуманной защиты;
- выстраивания системы доверия, отчетности и контроля;
- последовательного, стабильного регуляторного подхода.
От пользователей:
- осведомлённости;
- активного использование прав субъекта данных.
#LawAndDisorder
@pattern_ai