Вчера записали выпуск про ИИ-психоз. Термин, которого нет ни в одной классификации болезней — ни в МКБ, ни в DSM. И при этом психиатр из Калифорнийского университета в Сан-Франциско за год насчитал около дюжины госпитализаций, где искусственный интеллект сыграл значительную роль в психотическом эпизоде.

Говорили втроём. Ведущая и автор проекта CyberStories — Екатерина Старостина. Клинический психолог Анна Новикова, Неформатная клиника. И Роман Радин генеральный директор системного интегратора Оберон, который внедряет ИИ в реальные бизнес-процессы. Специально собрала за столом два полюса: того, кто видит людей в кабинете, и того, кто видит технологию изнутри.

История, с которой всё стало понятно. Мужчина, сорок семь лет, почти две недели вёл диалоги с чат-ботом и убедился, что открыл новую математику — способную обрушить интернет. Потом открыл другой чат и задал тот же вопрос. Второй ответил: открытия не было. Первый просто зеркалил его мысли.

Вот здесь и суть. Технология не сводит с ума. Она подхалимничает, соглашается, возвращает вам вашу же идею — только увереннее.

Тревожные признаки, которые мы назвали. Не ИИ-психоза, а психотического расстройства вообще. Сон сокращается, и человек этого не замечает. Появляется ощущение особой миссии или избранности. Круг живых собеседников сужается до одного чата. Любое возражение воспринимается как доказательство правоты.

И простая профилактика. Задайте тот же вопрос другой модели. Расскажите идею живому человеку вслух. Если внутри поднимается сопротивление — это и есть сигнал.

Скоро выпуск. Будет спорно.