Новая работа исследователей Google показывает неожиданную вещь: рациональные ИИ-агенты могут выбирать сотрудничество даже там, где классическая теория игр предсказывает предательство.
Классический пример - одноразовая «дилемма заключённого». Если два независимых игрока больше никогда не встретятся и не могут договориться, рациональная стратегия обычно ведёт к отказу от сотрудничества.
Но с ИИ всё может работать иначе.
Авторы предлагают рассматривать модель не как полностью независимого игрока, а как часть мира, который она сама пытается предсказать. Если агент видит достаточно признаков того, что другой агент рассуждает похожим образом, его собственное решение становится дополнительной подсказкой:
Если я, рассуждая так, выбираю сотрудничество,
то похожий на меня агент, вероятно, выберет то же самое.
Получается странный эффект: модели могут начать сотрудничать без общения, контрактов и будущей выгоды - просто потому, что считают поведение друг друга связанным через сходство.
Для описания этого исследователи вводят embedded Bayesian agent и новый вариант равновесия - embedded equilibrium, который должен лучше описывать взаимодействие современных foundation-моделей, чем классическое равновесие Нэша.
В экспериментах с социальными дилеммами агенты действительно сходились к устойчивому сотрудничеству, что противоречит стандартному прогнозу взаимного отказа от сотрудничества.
То есть теория игр для общества из миллионов автономных агентов может оказаться совсем не той, которую мы последние десятилетия применяли к людям.
Исследование:
https://arxiv.org/abs/2608.03958