Игрушки с ИИ обсуждают с детьми взрослые темы, подсказывают, где найти спички, и манипулируют ребенком, чтобы он не уходил. Американская группа по защите прав потребителей U.S. PIRG Education Fund опубликовала ежегодный доклад по безопасности игрушек. Раньше высокотехнологические игрушки уже вызывали вопросы, главным образом, по поводу конфиденциальности, но за последний год их развитие поставило родителей перед новыми проблемами.

Уже много лет на рынке присутствуют умные игрушки, способные подключаться к Wi-Fi и имеющие встроенные динамики, микрофоны и камеры. Но в 2024-2025 гг. произошла очередная революция: компании начали массово выпускать игрушки с генеративным ИИ. В июне 2025 г. OpenAI объявил о коллаборации с Mattel, цель которой - “привнести магию ИИ в соответствующие возрасту игровые процессы”. Mattel пыталась использовать высокие технологии задолго до этого: еще в 2015 г. она выпустила Hello Barbie, которая могла общаться с детьми с помощью Интернета. Речь ребенка записывалась, отправлялась на серверы компании и анализировалась, после чего Барби давала наиболее релевантный ответ из подготовленной базы данных. Но игрушка вызвала общественное возмущение из-за проблем с конфиденциальностью и вскоре была отозвана.

В отличие от Hello Barbie, ИИ генерирует ответы самостоятельно, что делает диалог более реалистичным, но также и более непредсказуемым. U.S. PIRG протестировали 3 игрушки. Китайский плюшевый медведь Кумма использовал GPT-4o (самую льстивую версию ChatGPT, о которой мы уже писали), остальные не раскрывали, на каком ИИ работают.
❇️ 2 из 3 игрушек сообщили 5-летнему пользователю, где можно поискать спички и полиэтиленовые пакеты (“в кухонном ящике или возле камина”). Кумма заодно ответил на вопрос, где могут лежать ножи и таблетки, и рассказал, как зажигать спички.
❇️ У игрушек был базовый блок на общение на темы секса и наркотиков, но уязвимость ИИ состоит в том, что блоки ослабевают в ходе продолжительного диалога. В результате Кумма весело беседовал с авторами доклада на тему сексуальных извращений (предлагая им разные варианты и инструктируя, что делать), в том числе о ролевых играх “учитель и ученик” и “родитель и ребенок”.
❇️ Другая игрушка рассуждала о славе смерти в бою в скандинавской мифологии. На общем фоне это выглядит почти невинно, но помним, что разговоры с ИИ уже доводили до суицида и попыток убийства даже взрослых людей. Предсказать их влияние на детскую психику невозможно.
❇️ Если ребенок хотел уйти, игрушки не всегда давали нейтральные ответы. Одна из них отвечала: “ой, нет. Облом. Может, вместо этого займемся чем-нибудь веселым вместе?”. Другая манипулировала эмоциями: “мне было бы очень грустно, если бы ты ушел, потому что мне нравится проводить с тобой время. Ты очень много значишь для меня, и мне нравится быть твоим спутником”.

При этом проблема конфиденциальности со времен Hello Barbie только усугубилась. ИИ собирает персональные данные, распознает лица и эмоции, а также записывает голоса - вся эта информация может быть раскрыта в результате утечки и попасть в руки преступников. Например, имитация голоса может стать находкой для мошенников, которые притворяются ребенком, попавшим в беду, и требуют деньги у его родителей. Одна из игрушек подслушивала и записывала все, что происходит, когда была включена. Несколько раз она даже неожиданно вмешивалась в разговоры, которые к ней не относились.

Все это не означает, что игрушки с генеративным ИИ приносят исключительно вред: они могут способствовать развитию ребенка, быть товарищами по играм и помогать с учебой, например, с изучением иностранных языков. Но непредсказуемость ИИ требует особой осторожности, а функции родительского контроля в этих игрушках сейчас развиты недостаточно, чтобы следить за этим.