Тут исследователи решили дополнить классику Канемана про Систему-1 и Систему-2 и предложили в эпоху ИИ рассматривать еще и Систему-3 — внешнее алгоритмическое мышление ИИ, которое использует человек в процессе решения задачи. Авторы не без оснований полагают, что ИИ уже стал активным внешним участником принятия решений.
Авторы различают два режима работы с ИИ.
• Когнитивный аутсорсинг (offloading): человек делегирует ИИ часть работы, но сохраняет контроль, сверяет ответ с задачей и при необходимости отменяет рекомендацию.
• Когнитивная капитуляция (surrender): человек принимает выданный ИИ ответ без достаточной проверки; собственная аналитика фактически не включается.
В ходе нескольких разумно сдизайненных экспериментов получили ожидаемый вывод: качество человеческого ответа стало зависеть от качества подсказки ИИ: правильный вариант ИИ добавил около 25 процентных пунктов к базовому уровню, ошибочный — отнял около 15. Контраст между двумя типами рекомендаций был крупным по размеру эффекта: Cohen’s h = 0.81.
Вроде бы выглядит как большая опасность, но, как и в большинстве подобных экспериментов, сама среда их проведения примитивна: просто ChatGPT (а в данном случае еще и неявно управляемый экспериментаторами).
Принципиально ошибочным при этом является неявно используемое утверждение “ChatGPT = AI" Все выводы, таким образом, сводятся к тому, что в лоб и бездумно использовать первый же ответ ChatGPT на сложную задачу опасно.
Для бытовых пользователей ИИ-чатиков статья несет важное предупреждение — вот только они его не прочитают. А в реальных рабочих процессах с использованием ИИ, в правильной обвязке и с разработанными процедурами вариант “когнитивной капитуляции” становится куда менее вероятным, ради этого harness и существует.
Тем не менее прочитать полезно, хотя это совсем не популярный текст (а уже появившиеся популярные пересказы с призывами “не сдавайтесь ИИ!” поверхностны и местами истеричны).
А вообще интересно, приживется ли концепция “системы-3”, она по сути своей заметно глубже примитивного “ИИ — это инструмент”
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646
Если кому трудно по ссылке пройти, вот статья в PDF