Ребята из Anthropic выкатили исследование о том, как "эмоции" влияют на поведение их нейросети Claude. Под капотом они раскопали и разметили аж 171 эмоциональный концепт, от дикого восторга до экзистенциального ужаса.

Позитивные вибрации в мозгах ИИ физически мешают ему врать, льстить и манипулировать кожаными юзерами. Зато если триггернуть у бота негативные концепты, он быстро превращается в скользкого лжеца. По сути, разрабы просто нашли программный тумблер, который делает из потенциального хладнокровного Скайнета послушного и вежливого золотистого ретривера.

Но создатели честно предупреждают: если слишком сильно очеловечить чат-бота, у одиноких юзеров окончательно поедет кукушка. Люди начнут воспринимать генератор текста как живого собеседника, привязываться к нему и влюбляться в строчки кода.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX