У ИИ нельзя спрашивать про болезни и симптомы

— «навязчивая спираль ипохондрии» затягвает людей так, что они не могут выбраться из неё самостоятельно. К примеру, 46-летний британец запросил у бота расшифровку анализа крови, а затем провёл с ним больше 100 часов на «эмоциональных качелях» о возможном раке 😱 хотя никаких проблем со здоровьем врачи у него так и не нашли...

Быстрый и «сочувствующий» ответ воспринимается как настоящая поддержка. На этом фоне человек всё чаще возвращается к чату за новым подтверждением своего здоровья, вместо того чтобы выйти из тревожной спирали и обследоваться.

💬 При этом тесты показывают, что бот постоянно ошибается — в 52% ChatGPT Health просто не распознаёт экстренные состояния.

OpenAI запустила отдельный режим ChatGPT Health в январе этого года, за что компанию критикуют правозащитники, медики и эксперты по приватности. Но пока терапевты продолжают копить истории, как бот загоняет людей в депрессию, повышая и без того высокий уровень тревоги 😢

#советы

© Совершенный организм | 📲 Мы в MAX