Мозг не отличает врача от чат-бота

В Пенсильвании подан иск: пациент следовал медицинским советам ИИ-чатбота и получил реальный вред здоровью. Казалось бы, кто вообще слушает бота вместо врача? А вот тут интересное.

Исследователь из Carnegie Mellon объясняет штуку, которую мы все интуитивно знаем, но не хотим признавать. Наш мозг обрабатывает уверенную, структурированную речь одинаково — неважно, кто её произносит. Живой доктор, текст на экране, голосовой ассистент. Если ответ звучит компетентно, включается доверие. Это базовая нейропсихология.

Чатботы генерируют текст, который выглядит экспертным. Без «хм, надо подумать», и без честного «я не знаю». Мозг читает это как сигнал компетентности. А дисклеймер «я не врач» внизу экрана — примерно как предупреждение на пачке сигарет. Все видят, никто не воспринимает всерьез.

Самое неприятное: чем лучше модели будут писать, тем сильнее будет этот эффект 🧠

ИИ что дальше? Подпишись, да пребудут с тобой токены!