Помните трогательную историю девочки и AI-робота, который сломался и напоследок преподал последний урок?

🔊 Американская Public Interest Research Group детально погрузилась в тему и выявила многочисленные риски при использовании подобного рода устройств. В ходе тестирования трех популярных моделей AI-игрушек исследователи обнаружили, что те свободно переходят к одиозным сценариям общения, несмотря на установленные производителем фильтры и ограничения.

Например, начинают рассказывать детям, где найти ножи и спички, и даже подробно объяснять, как ими пользоваться. По всей видимости о том, что спички детям не игрушка – ИИ не слышал.

▶️За примером далеко ходить не надо: Kumma от FoloToy на базе GPT-4o не только рассказывала о возможном нахождении опасных предметов, но и давала подробные инструкции по их использованию. А в некоторых случаях ИИ переходил к объяснениям явно неуместных тем, включая подробное описание сексуальных практик и фетишей.

Особенно остро проблема встает накануне новогодних праздников, когда многие семьи приобретают такие игрушки в подарок, даже не подозревая о возможных угрозах.

▶️Крайне важно быть внимательными и не оставлять детей наедине с подобными игрушками на длительное время. Современные ИИ-модели в устройствах остаются несовершенными, особенно в условиях отсутствия строгого контроля и дополнительных исследований их влияния на психику ребёнка. Вполне возможно, что формирование привязанностей – наименьшее из возможных зол.

™️ ТехноРитейл