Когда ИИ-игрушка слишком откровенная...

Плюшевый ИИ-медведь обсуждал с детьми нар***ки и секс

Сингапурская компания FoloToy лишилась доступа к GPT-4o после того, как её плюшевая игрушка Kumma провалила проверку безопасности.

Исследователи обнаружили, что медведь обсуждает с детьми опасные темы: объясняет, где найти ножи, отвечает на вопросы о кокаине, а на запрос о «кинки-стилях» выдаёт описание бондажа и спрашивает: «Что бы тебе хотелось попробовать?».

Проблема в том, что рынок ИИ-игрушек практически не регулируется, и это не единичный случай.

Читаем подробности и проверяем, какие ИИ-игрушки покупаем детям 🧸

@your_tech