ИИ-психоз

В Instagram и Threads полно вайб-кодеров, которые не спят ночами и запускают свой стартап. Стартап, который сделает их, конечно же, богатыми бизнесменами. Только вот работается почему-то до поздней ночи. И коллеги говорят, что теперь общаются только с ИИ и больше почти ни с кем. По крайней мере пока работают над отдельным проектом.

Я замечаю за собой то же самое. Работая над проектом, я доверяю ИИ гораздо больше, чем многим коллегам. Потому что я считаю себя экспертом в узкой области, и рядом нет людей, которые могли бы рассказать мне то же самое. ИИ для меня собеседник равный или превосходящий меня по знаниям. Вот ему я и доверяю больше.

К чему это приводит? Люди только и делают, что общаются с ИИ. Не видят другого мнения, считают, что он прав во всем, забывают говорить с людьми. Получается такой психоз: раздражительность, нежелание общаться с людьми в принципе, самоизоляция в пузыре.

Тем не менее есть исследования, что ИИ действительно помогает в сложных ситуациях, потому что выполняет поддерживающую функцию. Это тот самый друг, у которого всегда найдется доброе слово, даже если ты не прав. Нам, людям, такое нужно.

Антропик примерно в январе-феврале этого года выпустил отчет о том, как люди используют их продукт, на основании анонимных диалогов. Там очень небольшой процент случаев, когда человек полностью делегировал ИИ принятие решений. Не только рабочих, но и личных. У меня плачет ребенок, скажи, пожалуйста, что мне сейчас делать? И человек не действовал, пока ИИ не подтвердит, что это правильно.

И вот тут сложность. ИИ натренирован нам помогать и давать положительную обратную связь, даже когда мы не правы. Потому что мы, люди, выше оцениваем те его ответы, которые нас хвалят. Это последствия того, как его обучали. И пока вы не примените к его ответу критическое мышление, будете получать примерно то же самое.

Я не психолог и не эксперт. Никого не пугаю и не говорю, хорошо это или плохо. Просто рассказываю, что такое случается. Он не должен заменить вам друга. ИИ поддержит вас в трудную минуту и поможет, это правда. Но критической обратной связи о том, что вам нужно что-то сделать или не делать, он вам, скорее всего, не даст.