Сколько стоит подумать?

Мы привыкли обсуждать ошибки мышления: переоцениваем свой опыт, боимся потерь, цепляемся за первое впечатление. Работы Даниэля Канемана и Амоса Тверски сделали когнитивные искажения частью нашего повседневного словаря. Психолог и специалист по ИИ из Принстона Том Гриффитс предлагает дополнить эту картину вопросом: сколько ресурсов человек может потратить на решение?

Размышление имеет цену — время, внимание, вычислительные усилия. Поиск идеального ответа способен обойтись дороже самой ошибки. Отсюда идея «ресурсной рациональности»: оценивать качество решения с учётом затрат на его получение. В таком подходе некоторые привычные упрощения мышления оказываются разумным способом распоряжаться ограниченными возможностями мозга.

Проверять подобные идеи теперь можно в другом масштабе. В исследовании 2021 года команда Гриффитса анализировала решения почти в 10 тысячах задач выбора с риском. Более точное описание поведения дала модель, объединяющая разные стратегии: их применение зависит от величины возможных выигрышей, потерь и вероятностей. Единой простой формулы для всех ситуаций оказалось недостаточно.

Особенно нагляден пример шахмат. Исследователи изучили более 12 миллионов онлайн-партий. Игроки дольше обдумывали позиции, в которых дополнительный расчёт мог принести больше пользы. У сильных шахматистов эта зависимость была выражена отчётливее. Получается, часть мастерства — умение определять, когда стоит думать дольше.

Теперь Гриффитс обращает инструменты психологии на сам ИИ. И здесь обнаруживаются неприятные вещи. В эксперименте с наймом сотрудников языковые модели распределяли работу между представителями вымышленных групп, объективно имевших одинаковые шансы на успех. Однако случайные первые результаты порождали устойчивые предпочтения: модели начинали связывать группы с определёнными профессиями и недостаточно проверяли альтернативы. В этой задаче более новые и крупные модели нередко демонстрировали более выраженные перекосы.

Все это показало, что интеллект это не только умение думать, но и умение знать когда надо думать дольше, как управлять собственными вычислительными ресурсами. Поэтому будущему ИИ-помощнику понадобится способность оценивать, когда информации достаточно для действия, когда стоит продолжить поиск и когда пора пересмотреть собственное первое впечатление. Нам самим этот навык тоже весьма пригодится.