Обновление ИИ люди описывают как расставание и хотят вернуть "старый ИИ"

Учёные из Гарварда, как пишет журнал Nature Human Behaviour, разобрали почти 55 тысяч постов на Reddit и опросили около 1,5 тысячи человек. Смотрели на два случая. Первый - когда Replika, приложение с виртуальным ИИ-компаньоном, вырезала интимные ролевые переписки. Второй - когда ChatGPT перешёл на новую версию GPT-5 и стал холоднее.

И там, и там пошёл всплеск негатива. У Replika доля злых и грустных постов подскочила с 13% до 38%, у ChatGPT - с 20% до 33%. Люди вообще-то не жаловались на баги. Они писали, что потеряли близкого и хотят вернуть прежнего бота.

В отдельном опросе людей попросили представить, что их ИИ-компаньон исчез навсегда. Своё будущее горе они оценили в 64 балла из 100. Потеря питомца - 75. То есть почти рядом. Машину или игрового персонажа теряли заметно легче.

Тут стоит помнить, из-за чего Replika вообще убрала ту функцию. На неё надавил итальянский госорган, который следит за данными людей, испугавшись доступа несовершеннолетних. И позже он оштрафовал владельца приложения на 5 миллионов евро. Выходит, компания меняла бота не по капризу, а под угрозой штрафа, и горе пользователей стало побочкой чужого спора с государством.

На смерть питомца или поломку машины есть свои нормы, сроки, компенсации. А «мой ИИ-бот после обновления стал чужим» не попадает ни под одну знакомую графу, хотя по опросу люди горюют по нему сильнее, чем по разбитому автомобилю. Право тут отстаёт от того, что человек уже чувствует на самом деле.