Реально ли AI помогает нам получать более достоверные данные в исследованиях? Или наоборот?

Всё, что меня интересует как исследователя, это как и почему люди принимают те или иные решения. Что на них влияет и насколько мы действуем из внутренней воли и свободы выбора. Спойлер: почти никогда.

Нашими решениями правят когнитивные искажения, которые работают по одному принципу: мозг заменяет медленный, честный анализ быстрым и удобным ярлыком. В восприятии мира это формирует искажённую картину реальности. В исследованиях это системная ошибка, которая ложится в основу решений, стоящих реальных денег.

Ситуация становится только хуже в эпоху AI, где выводы нейросети звучат так убедительно, как будто мы сами это написали.

На рынке всё больше предложений "провести исследование рынка с помощью AI". Вам даже сгенерируют синтетических пользователей, с которыми вы проведёте интервью. Звучит очень правдоподобно, не так ли?
Но не всё так просто.

Нейросети склонны соглашаться с собеседником.
Мы приходим с гипотезой, и AI охотно находит ей подтверждение, да ещё и красиво упакует. Раньше склонность к подтверждению приходилось удовлетворять самому: искать нужные статьи, выбирать нужные цитаты, сомневаться и перепроверять снова. Теперь подтверждение приходит готовым.

Синтетический респондент это усреднённый человек.
Он не противоречит себе, не оговаривается, не говорит "я сам не знаю, почему так сделал". Получается просто идеальный респондент. Только так ли мыслят живые люди?

Меньшинства пропадают из данных.
Модели повторяют перекосы своих обучающих данных, из-за чего голоса меньшинств оказываются недопредставлены. А группа, которую модель описывает как однородную, на деле всегда разная внутри.

И это уже серьёзный этический вопрос. Исследования нужны, чтобы услышать тех, кого иначе не услышат. Синтетические респонденты работают наоборот: люди, чьи голоса и так редко попадают в данные, исчезают из них окончательно. Решения о продуктах, сервисах и политике принимаются без их участия, а отчёт при этом выглядит полным и убедительным.

И, кажется, мы сами теряем навык.
Чем больше мы доверяем AI, тем меньше склонны перепроверять и думать сами. Есть риск, что навык, как и мышца, без нагрузки слабеет.

В итоге запускается цепочка неверных выводов, которые формируют искажённую картину мира. И отличить правду от вымысла становится очень сложно. Звучит как сценарий плохой антиутопии, но это уже реальность, в которой мы живём.

Быстрое и дешёвое всегда побеждает медленное и точное.
Живое интервью это недели работы и бюджет, а синтетическое выдаёт результат за пять минут. Вопрос, что выбирает бизнес и общество в целом.