Как устроить учёт персональных данных в ИИ-среде: "парламент" вместо "президента"

Чтобы получить качественного ИИ-помощника, нужно дать ему больше данных о себе: проекты, здоровье, семья, финансы, карьера. Государства и вендоры уже собирают информацию о нас, в том числе чтобы предоставить услуги. Этот тренд неизбежен. Однако каждый, наверное, в страшном сне видит, что все его данные окажутся в одном месте и будут доступны одному ИИ. Пусть даже если он собственный помощник.

Я нашёл аналогию, которая решает эту проблему. 20 лет назад мы с Анатолием Левенчуком, Виктором Агроскиным и группой коллег проектировали архитектуру электронного государства в проекте «Электронная Россия». Главная идея: разделить управление информацией на три института — учёт, доступ, аудит. Каждое ведомство ведёт учёт строго в своих границах. Отдельный институт регулирует, кто к чему имеет доступ. Третий проверяет, что правила соблюдены. Разделение властей, но не для страны, а для информации.

Эта триада, вероятно, объясняет, как должен быть устроен персональный ИИ-помощник будущего.

Ваши данные распределены по доменам: здоровье, финансы, образование, семья, карьера. В каждом домене — свой изолированный ИИ-агент, который имеет доступ к физически распределенным данным. Медицинский агент знает результаты анализов, но не видит банковский баланс. Образовательный знает прогресс в курсах, но не знает диагнозы. Один факт живёт в одном месте, но доступен для определённых сценариев — и все действия журналируются.

Вы, как парламент, определяете правила: какой агент к каким данным имеет доступ, при каких условиях, в каких сценариях. ИИ-помощник реализует эти правила и следит, чтобы данные не утекали. Координатор маршрутизирует запросы между доменами, но не хранит данные — как президент в парламентской республике, который не может единолично получить любую информацию. Верификатор проверяет в изоляции — как аудитор, который проверяет бухгалтерию, но не ведёт её.

Минимум агентов = число доменов + 2 (координатор и верификатор). При пяти доменах — минимум семь изолированных агентов. Один агент может исполнять разные роли (стратег, аналитик) внутри своего домена, но физически не видит чужие домены. Не доверие одному агенту, а архитектурные гарантии. Парламент и распределённые ведомства вместо президента с неограниченной властью.
___
Полный пост в клубе.