Требования новой инициативы EU KIDS Act

Интересное получилось "совпадение".
8 сентября OECD опубликовала результаты PISA 2025 и он оказался удручающим. Исследование 760 тысяч 15-летних подростков в 91 стране показало, что каждый пятый демонстрирует низкие результаты по естественным наукам, математике и чтению, средний результат по математике достиг самого низкого уровня за всё время PISA.
🔹46 % используют чат-боты с ИИ еженедельно или чаще, чтобы улучшить свое обучение,
🔹 28% утверждают, что их однокурсники отвлекаются на использование цифровых устройств на большинстве или всех уроках естественных наук.
OECD отдельно подчеркнули, что технологии и ИИ могут помогать обучению, если используются осмысленно, а не вместо внимания, усилий и понимания.

А вчера Европейская комиссия представила предложение EU KIDS Act в качестве будущего регулирования цифровых сервисов, которыми пользуются дети. И там уже не только про возрастные ограничения и родительский контроль (пресс-релиз здесь).
Естественно, планируется, что его действие будет распространяться на любые сервисы, которые затрагивают европейских пользователей, не важно, где размещенные.
В деле социальные сети, видеоплатформы, онлайн-игры, ИИ-компаньоны, разговорные чат-боты.

👀 Примеры требований:
▪️ограничения по возрасту. В возрасте от 13 до 15 лет предлагается ввести родительский контроль, позволяющий опекунам создавать мини-аккаунты, к которым дети смогут получать доступ через аккаунт опекуна. Дети в возрасте от 3 до 13 лет не имеют доступа к социальным сетям, но они могут пользоваться специально разработанными детскими видеохостингами через аккаунты, управляемые их опекунами.

▪️запрет на вызывающие привыкание функции и рекомендательные ленты, основанные на профилировании, бесконечную прокрутку без точек остановки, уловки с поощрениями и push-уведомления во время сна, а также нежелательные контакты от незнакомцев.
ИИ-компаньоны и чат-боты должны быть отключены по умолчанию и не могут имитировать межличностные отношения таким образом, чтобы создавать эмоциональную зависимость.

▪️профили несовершеннолетних должны быть по умолчанию приватными, с отключенным доступом к геолокации, камере и микрофону.

▪️сервис должен давать ребёнку возможность управлять тем, что ему показывают, включая содержание, подсказки, результаты поиска и рекомендации. Инструменты управления временем должны быть эффективны, рекомендательные системы безопасны и могут контролироваться, настраиваться и изменяться ребенком. Обратная связь ребёнка должна иметь не разовый, а устойчивый эффект.

▪️если ребёнок меняет защитные настройки, сервис должен объяснить последствия такого изменения и дать простой способ вернуть прежние или исходные настройки. При этом платформы не должны постоянно подталкивать ребёнка к снижению уровня защиты.

▪️ детские механизмы жалоб. Ребёнок должен легко сообщить о вредном содержании, аккаунте, группе или поведении. Жалоба должна рассматриваться в приоритетном порядке и без неоправданной задержки, а ребёнку необходимо будет доступно объяснить, что произошло и какие существуют способы защиты.

▪️родительский контроль должен соответствовать возрасту ребёнка, быть действительно работоспособным, не обходиться самим дизайном сервиса и при этом не ограничивать непропорционально права ребёнка и не нарушать его частную жизнь. Ребёнок должен знать, когда такие инструменты используются.
▪️ родительский контроль не заменяет ответственность самой платформы. Безопасность должна обеспечиваться самим продуктом.

EU KIDS Act пока только предложение Комиссии, которое теперь должно пройти Европарламент и Совет (по разным оценкам не раньше 2028 года).

❕Но если строите серьезный глобальный продукт, то самое время проверить, насколько архитектура сервиса вообще будет готова к такому подходу.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator