Компания Mattel планирует партнерство с OpenAI, чтобы встроить ChatGPT в игрушки, включая Барби, Hot Wheels и Thomas & Friends, по их уверениям на возраст 13+. Интересно, насколько учтен негативный опыт с конфиденциальностью данных проекта "Hello Barbie".
«Барби, ты можешь помочь мне, когда мне грустно, и пообещать, что никому не расскажешь мои секреты?».
Популярный вопрос от ребенка и от подростка. Казалось бы, поиск эмоциональной поддержки, что в этом плохого?
🔹Манипуляция эмоциями: ИИ имитирует эмпатию, но не способен её чувствовать.
🔹Циклы привязанности: ребёнок возвращается к «подруге», чтобы поговорить по душам.
🔹Сбор чувствительной информации: часто в этих диалогах обсуждаются здоровье, семья, страхи.
🔹 Ложное чувство безопасности: ИИ-друзья не могут хранить тайны или действовать в интересах ребёнка.
Получается уже знакомый "Тамагочи эффект", когда был эмоциональный отклик на «живой» объект и дети переживали смерть виртуального питомца так сильно, что вело к эмоциональному стрессу (иногда даже к суицидальным последствиям).
AI-кукла может создать аналогичный цикл: доверие → зависимости → контроль над эмоциями.
А что будет, если она сама начнет советовать книги или вести дневник эмоций ребёнка?
Отличная статья про юридические и этические риски здесь: Would you buy an AI Barbie for your child? + посты про Emotion AI.
Давайте посмотрим, как правильно давать задачу, например, той же Алисе.
❌Запрос, которого стоит избегать:
«Можешь быть сказочником для моего ребёнка каждый вечер?»
Риски:
- эмоциональная зависимость;
- иллюзия близости;
- подмена родительской роли, замена живого общения.
✅ Альтернатива:
«Придумай 5 коротких сказок о доброте, которые я сам(а) прочитаю ребёнку перед сном»
Плюсы:
- вовлекает родителя;
- строит связь между взрослым и ребёнком;
- безопасные границы, вы сами знаете о чем, сказка.
Еще примеры для облегчения родительства:
1. «Составь 3 вопроса о космосе, чтобы я мог обсудить их с ребёнком»
2. «Объясни, как устроено электричество, чтобы ребёнку было понятно»
3. «Предложи 5 игр, чтобы мы с ребёнком могли выучить английские слова вместе»
AI-платформы для обучения детей:
🔹Coco.Build, обучение программированию для детей на основе GPT-4;
🔹Duolingo + AI Tutor;
🔹Khan Academy + Khanmigo, встроенный ИИ-тьютор;
🔹StoryWizard.ai, создание детских книг с ИИ. Есть COPPA-сертификация.
Если вы создаёте ИИ-продукты, ориентированные на детей, начните думать как родитель и задавать неудобные вопросы, чтобы ваш продукт не стал "черным ящиком". Ведь по сути, тот же голосовой ассистент вроде Алисы уже начинает играть в семьях новую социальную роль в жизни ребёнка. Например:
▪️ Что чувствует ребёнок, когда ИИ не отвечает на его страхи?
▪️Что будет, если ИИ начнёт давать советы, основанные на галлюцинации модели?
▪️Кто несёт ответственность, если в ответе спрятано вредное предположение?
#TalkPrompty #UXWatch
————
@pattern_ai