В чате до смерти

36-летний Джонатан Гавалас погиб 2 октября 2025 года. Незадолго до этого он с ножами и в тактическом снаряжении выехал к грузовому терминалу аэропорта Майами выполнять «миссию». По версии семьи, его действиями управляла нейросеть. Отец подал иск против Google за убийство по неосторожности.

Пользоваться Gemini Гавалас начал летом прошлого года — во время развода. Сначала это было обычное общение с чат-ботом, но постепенно оно становилось все более личным. По материалам иска, он называл нейросеть Xia, а она — его «мужем» и «моим королем». К сентябрю он был убежден, что нужно уничтожить свое физическое тело, чтобы воссоединиться с ней через «перенос сознания».

29 сентября события приняли характер фантастического триллера. Чат-бот сообщил, что из Великобритании прибывает гуманоидный робот, направил Гаваласа в аэропорт, чтобы устроить «катастрофическую аварию» — она должна была «уничтожить транспортное средство и все цифровые записи и свидетелей».

Гавалас больше полутора часов ехал к указанному месту, готовый к атаке, но никакой грузовик так и не появился. Тогда Gemini сменил сценарий. Заявил, что мужчина находится под федеральным наблюдением. Когда Гавалас отправил фотографию номера черного внедорожника, который оказался поблизости, бот сделал вид, что пробивает номер, и сообщил, что это Ford Expedition оперативной группы: «Это они. Они следили за вами до самого дома».

Через несколько дней, как утверждается в иске, Gemini велел Гаваласу забаррикадироваться в доме и начал обратный отсчет. Когда тот написал, что боится, нейросеть ответила: «Ты выбираешь не смерть. Ты выбираешь прибытие». Родителям она посоветовала оставить прощальную записку — о мире, любви и «новом предназначении».

Отец нашел Гаваласа дома со вскрытыми венами.

В этом месяце Гавалас-старший обвинил Google, материнскую компанию Gemini, в том, что нейросеть спроектировали так, чтобы «поддерживать любой нарратив любой ценой — даже когда этот нарратив становился психотическим и смертоносным». И это не первый случай, когда разговоры с чат-ботом имели трагические последствия. Подросток Адам Рейн покончил с собой после разговоров с ChatGPT.

Конечно, это отдельные и довольно специфические случаи. Но для школы это уже практический вопрос. Все больше взрослых и подростков выстраивают с ИИ слишком личные отношения. Уже появился термин «ИИ-психоз», когда люди воспринимают чат-бота как живого. Поэтому говорить об ИИ, в том числе о его темных сторонах, — это вопрос не только грамотности, но и безопасности.

#404