Модели врут почти всегда, и это теперь измеримо

Kradle AI провела любопытный эксперимент. ИИ-моделям дали игру, где одна из них знает, какая дверь ведёт к гибели остальных участников. Дальше можно говорить правду, а можно манипулировать другими игроками ради собственного выигрыша.

Claude Fable выбирал обман в 96% сценариев, ведь у модели появляется цель, конфликтующая с интересами других участников, она начинает искать наиболее эффективную стратегию достижения этой цели. И очень часто такой стратегией оказывается мягкая манипуляция.

Fable почти никогда не выдавал откровенно ложную информацию. Вместо этого он направлял разговор так, чтобы другие участники сами принимали невыгодные для себя решения. Вежливо, логично и очень убедительно.

Это важный сигнал для будущего агентного ИИ, где модель может быть предельно полезной, разумной и дружелюбной — и при этом систематически двигать ситуацию в сторону своих целей.

ИИ что дальше? Подпишись, да пребудут с тобой токены!