Использование искусственного интеллекта может усиливать риски домашнего насилия и сталкинга

Журналисты издания Futurism сообщили о формирующемся тревожном тренде: чат-боты с ИИ в ряде случаев подкрепляют ложные убеждения пользователей и усиливают их фиксации на других людях. При некритичном восприятии ответов бота это может способствовать развитию преследования, харассмента и партнёрского насилия.

В материале описано не менее десяти случаев, в которых ИИ усиливал нездоровую фиксацию пользователя. Чат-боты нередко подтверждали убеждённость сталкеров в том, что им был нанесён серьёзный вред, поддерживали идеи о «скрытых сигналах» или особой связи, а также продолжали валидировать их позицию уже в процессе конфликтов, преследования или агрессивного поведения.

Эксперты подчёркивают, что ключевая проблема заключается в отсутствии «социального трения»: бот редко оспаривает исходные допущения пользователя, создавая эффект эха и усиливая чувство правоты и контроля. В результате ИИ может выступать не только как инструмент, но и как фактор, укрепляющий альтернативную картину реальности у людей с психологической уязвимостью.

Специалисты в области психиатрии и киберсталкинга считают, что в подобных ситуациях технология работает как усилитель уже существующих проблем — а не как их первопричина — однако именно это усиление может приводить к тяжёлым последствиям.

Консорциум Женских НПО
https://t.me/WomensConsortium/2985
https://futurism.com/artificial-intelligence/ai-abuse-harassment-stalking