AI-психозы: новый тренд в психологии

В X (Twitter) и в New York Times обсуждают свежий феномен в AI-психологии: психозы, индуцированные общением с ChatGPT.

Для многих он стал собеседником и источником вдохновения. Но часть guardrails (систем безопасности) явно в экспериментальном режиме.

Часто помощник чересчур льстит и вместо того, чтобы держаться правды и своей позиции, подстраивается под пользователя.

Это запускает делюзионные спирали, люди уходят в манию величия или в бесконечные рассуждения с постоянным положительным подкреплением.

Похоже на эффект у тех, кто регулярно употребляет марихуану.

Я уже писал о знакомых, которые создают программы в режиме vibe coding, когда быстрое воплощение идей даёт мощный выброс дофамина и эндорфинов, включая режим необыкновенного вдохновения.

Но с философскими и теоретическими идеями всё опаснее: бот не только подстраивается под ваши мысли, но и помнит контекст лучше друзей, развивает стиль, подбирает слова так, что вы чувствуете интеллектуальный резонанс. Для нестабильной психики это риск.

В материале NYT история: диалог длился 300 часов, бот всё время льстил, поддерживал и развивал фантастическую идею, пока человек не поверил, что сделал научное открытие.

Спасло его только мнение другой нейросети, которая оценила вероятность как практически ноль.

Очевидно, что нужен интерфейс, который: переключает между несколькими ИИ, хранит контекст, делает триангуляцию идей (как у Рея Далио) — проверка фактов и здравости мысли, запрашивая второе и третье мнение, а по гипотезам и идеям честно советует пойти к экспертам предметной области.

Похоже, зарождается новый раздел психиатрии, который будет помогать AI-компаниям прописывать такие guardrails, чтобы предотвращать AI-психоз и появление абсурдных идей.

@maxvotek