Как проверить, понимает ли ИИ-ассистент мотивы людей

Может ли ИИ-советчик правда понимать, что движет людьми, если слышит лишь чужой пересказ ситуации?

Исследователи придумали способ проверять это не на догадках, а в управляемой сцене, где один участник скрывает свой настоящий мотив, другой рассказывает о случившемся, а ИИ должен понять, что стоит за поведением. Так можно точно сверить ответ с тем, что было задумано изначально. Оказалось, что ИИ легко уводит в сторону подача пользователя, ему часто нужно больше подробностей, чем человеку, а длинный разговор сам по себе не гарантирует лучшего вывода.

В этом обзоре разбираем, как устроена такая проверка, почему пересказ пользователя так сильно влияет на ответ ИИ и что это говорит о его умении разбираться в людях.

📜 Полная статья