🚀 ИИ ломает модель “нейросеть пишет, а человек человек проверяет”

Новое исследование Wharton показывает неприятную вещь:
модель, на которой сейчас строится половина работы с ИИ, перестаёт работать.

Мы привыкли думать так:
нейросеть генерирует → человек проверяет → всё ок.

Но на практике происходит другое.

Учёные называют это “когнитивная капитуляция”.

Это момент, когда ты перестаёшь реально проверять ответ ИИ и даже не замечаешь этого.

Важно: это не то же самое, что “переложить задачу” (как с калькулятором).

- при обычном использовании ты понимаешь, что инструмент сделал работу
- при капитуляции мозг начинает воспринимать ответ ИИ как свой

Ты искренне думаешь, что сам всё проанализировал.

ИИ становится чем-то вроде третьей системы мышления.

Помимо:
- System 1 — быстрой интуиции
- System 2 — медленного анализа

появляется System 3 внешний интеллект.

И проблема в том, что мы начинаем доверять ему слишком сильно.

Цифры из исследования:

- 1372 участника
- почти 10 000 задач
- более чем в 50% случаев люди обращались к ИИ

Когда ИИ был прав:
- люди соглашались с ним в 92.7% случаев

Когда ИИ ошибался:
- всё равно соглашались в 79.8% случаев

Без ИИ:
- точность - 45.8%

С правильным ИИ:
- 71.0%

С неправильным ИИ:
- 31.5% (хуже, чем без него)

При этом уверенность людей росла на 11.7%,
даже когда ответы были неправильными.

Вот главный вывод:

человеческая проверка больше не является надёжной страховкой.

Люди не просто пропускают ошибки ИИ -
они становятся более уверенными в этих ошибках.

Ни давление по времени, ни мотивация, ни обратная связь
не убрали эффект полностью.

Лучше всего сопротивлялись люди с высоким уровнем мышления
и привычкой анализировать.

И это ключевой момент:

это не проблема лени.
Это особенность того, как устроен наш мозг.

ИИ не просто помогает думать.
Он начинает думать вместо нас.
papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646