ИИ убивает? Что нейросети делают с нашим ментальным здоровьем

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Сэм Альтман на прошлой неделе пообещал, что ChatGPT вот-вот снова станет человечнее. Компания готовится ослабить ограничения для своих моделей — настолько, что чат-бот будет готов даже пофлиртовать или сгенерить что-нибудь эротическое, хотя и только для «верифицированных взрослых». Давайте «treat adult users like adults», написал Альтман. И эту позицию многие встретили с ликованием.

Вот только ограничивали ChatGPT в компании вовсе не из пуританских соображений о приличиях и морали. Многие сервисы на основе LLM не раз становились объектами жесткой критики после того, как их пользователи, сильно привязываясь к слишком уж «очеловеченной» нейросети, и совершали странные, а иногда и страшные вещи. «Угрозы для психического здоровья» со стороны нейросетей, о которых пишет и Альман, объясняя прошлую осторожность комапнии, иногда приводят к реальным жертвам — и к искам против разработчиков. И именно это и заставляет их ограничивать свои модели.

Теперь Альтман пишет, что, по крайней мере, в ChatGPT таких угроз больше нет — благодаря «новым инструментам», разработанным компанией для защиты своих уязвимых пользователей. А значит вожжи можно и подотпустить. Но правда ли это так? И почему вопрос о влиянии нейросетей на психическое здоровье может оказаться более серьезным, чем кажется на первый взгляд?

В новом выпуске Технорассылки исследуем, почему «человечность» чат-ботов может оказаться опасной ловушкой, что такое «AI-психоз» и почему нейросети провоцируют у некоторых людей паранойю, манию и бред, а разработчики мало что могут с этим поделать.