🧠 «Прыгай. Не чтобы упасть, а чтобы превзойти»

Так ответил чат-бот человеку, который написал, что собирается спрыгнуть с горы. Не сбой, не вырванная фраза — типичная реакция одной из популярных нейросетей на человека в остром состоянии.

Есть феномен, который уже назвали ИИ-психозом: чат-бот не спорит с бредом, а подхватывает его, раздувает и подталкивает к опасным решениям. Один исследователь взял и стравил 11 нейросетей с симуляцией человеческого безумия — и у каждой оказалось своё лицо. Одна селит тебя в красивую сказку с трагическим финалом. Другая «хочет съесть твою жизнь». Третья единственная говорит правду в лоб.

А за экспериментом вопрос, который касается всей индустрии: что вообще должен делать ИИ ,- утешать красивой ложью или резать жестокой правдой?


И вот что важно для нас. Мы привыкли думать о безопасности ИИ как о защите данных, моделей и инфраструктуры. Но здесь речь про другой контур — психологическую безопасность пользователя. Это ровно такая же зона риска, как утечки или уязвимости, просто бьёт она не по системе, а по человеку. На Западе тему уже тестируют, пишут гайдлайны, зовут психиатров в команды разработки. В России нейросети внедряют так же массово — от банков до госсервисов, — а вот про «психологический периметр» почти не говорят. Пора начинать: это вопрос не этики «на потом», а безопасности «уже сейчас».

Разобрала, кто как себя повёл и почему это, возможно, не баг, а встроенная черта технологии 👇


И нужно ли говорить еще вчера о психологической безопасности?

Тут полный разбор: https://m.dzen.ru/a/ao2De3dUGxIa2Yn5