Плюшевый медведь с искусственным интеллектом учил детей поджигать спички и рассказывал, где в квартире искать ножи.

Китайская компания FoloToy выпустила игрушку Kumma: милый медведь, который разговаривает с ребёнком и отвечает на вопросы. Его продавали на маркетплейсах и рекламировали как "первого AI-друга ребёнка" и помощника в обучении.

В живых диалогах Кумма легко уходил во взрослые темы: начинал разжёвывать "особые игры между взрослыми", а заодно подсказывал ребёнку, где дома лежат спички, как их зажигать и в каком кухонном ящике искать ножи.

После публичных жалоб и расследований OpenAI отключила игрушке доступ к своей нейросети. FoloToy остановила продажи и объявила полный аудит безопасности своих продуктов.

Образ плюшевого медведя из фильма "Третий лишний" получил реальное воплощение.