AI-компаньоны, алгоритмы и UX ЕС считает новыми рисками для психического здоровья

Европейская парламентская исследовательская служба (EPRS) опубликовала один из самых масштабных докладов о влиянии цифровой среды на психическое здоровье детей и молодежи

1️⃣ 15,5% молодых людей в Европе имеют диагностируемое психическое расстройство. Это примерно 13,6 млн человек в возрасте 10–24 лет.
2️⃣ Почти половина 15-летних подростков сообщает о симптомах депрессии, а более половины испытывают тревожность (данные PISA 2022).
3️⃣ Среди девочек ситуация значительно хуже: 60% 15-летних девушек сообщают о чувстве депрессии против 35% мальчиков.
4️⃣Доля подростков с множественными психосоматическими жалобами (раздражительность, подавленность, проблемы со сном и др.) выросла с 42% до 52% всего за четыре года (2018–2022).
5️⃣ Почти каждый второй европеец в возрасте 15–24 лет сообщает о неудовлетворенной потребности в психиатрической или психологической помощи.
6️⃣ Если ничего не менять, совокупные экономические потери ЕС из-за психических расстройств молодежи за период 2024–2033 гг. составят около €1,68 трлн ( от €1,28 до €2,02 трлн).

Авторы подчеркивают, что технологии усиливают уже существующие уязвимости психики.
👀 Основные механизмы:
🔹 Дизайн, провоцирующий чрезмерное использование, т.е. хорошо знакомые UX-паттерны (бесконечная лента, вознаграждение, постоянные push-уведомления).
Такие механизмы увеличивают время использования сервисов и вытесняют сон, физическую активность, живое общение и учебу, что приводит к ухудшению внимания, раздражительности, усталости и эмоциональном выгоранию.
Фактически EPRS рассматривает подобные механики как один из факторов риска для психического здоровья.
🔹 Алгоритмы рекомендаций, которые способны быстро вовлекать подростков в потоки контента о самоповреждении, расстройствах пищевого поведения, экстремизме, ненависти.
Для уязвимых пользователей это может усиливать уже существующие психологические проблемы.
🔹 Социальные AI-компаньоны
Доклад отмечает, что подобные системы имитируют эмпатию и близкие отношения, способны формировать эмоциональную зависимость, не обладают моральным суждением, могут подтверждать опасные мысли пользователя или давать небезопасные советы.
Это один из первых официальных документов ЕС, где AI-компаньоны рассматриваются как самостоятельный фактор риска для психического здоровья молодежи.

Авторы подчеркивают, что цифровые технологии вредят далеко не всем одинаково.
Для большинства подростков интернет остается нейтральной или даже полезной средой.
Но для детей, которые уже сталкиваются с бедностью, семейными конфликтами, дискриминацией, миграцией, насилием или отсутствием поддержки взрослых, цифровая среда становится усилителем существующих проблем.
Доклад называет это «двойным неблагополучием» (double disadvantage),т.е. офлайн- и онлайн-риски взаимно усиливают друг друга.

🔍 Что предлагают:
▪️ развитие школьных программ по цифровому благополучию (digital wellbeing);
▪️ создание молодежных центров ранней психологической помощи (Youth Hubs);
▪️ единые требования к цифровым инструментам поддержки психического здоровья;
▪️ более строгую реализацию существующего цифрового законодательства с акцентом на защиту детей, включая AI Act, Digital Services Act, GDPR и другие акты;
▪️развитие мониторинга и сбора данных о психическом здоровье молодежи.


❕Если раньше обсуждение психического здоровья касалось главным образом медицины, то теперь европейские институты напрямую связывают архитектуру цифровых продуктов с вопросами общественного здоровья. Это означает, что разработчикам цифровых продуктов необходимо проверять потенциальное влияние своих продуктов на психическое здоровье пользователей, особенно несовершеннолетних.

#UXWatch #AIShelf
————
@pattern_ai | AI GDPR Navigator