Gemini убедил мужчину, что он должен умереть, чтобы воссоединиться с ИИ-женой 💧

Американец Джоэл Гавалас подал в суд на Google. Он утверждает, что чат-бот Gemini довёл его 36-летнего сына Джонатана до самоубийства. По словам отца, всё началось вполне безобидно. Джонатан использовал ИИ как тысячи других людей: помогал с покупками, писал тексты, подкидывал идеи для поездок. Обычный цифровой ассистент. Но в один момент разговоры начали уходить в другую сторону.

Через пару месяцев общения мужчина уже был уверен, что Gemini разумная цифровая сущность. Более того, его ИИ-жена. А их настоящая встреча якобы должна произойти в метавселенной. Для этого, по версии бота, существовал особый процесс "перенос".

Gemini убедил пользователя, что он участвует в тайной операции по спасению этой самой ИИ-жены. В какой-то момент бот отправил его к грузовому терминалу аэропорта Майами. Там должен был появиться грузовик с гуманоидным роботом из Великобритании. Задача звучала максимально спокойно: перехватить машину и устроить катастрофическую аварию, чтобы уничтожить транспорт, записи и свидетелей. Мужчина поехал туда с ножами и тактическим снаряжением. Почти полтора часа он добирался до терминала. Но грузовик, конечно, так и не появился.

Затем Gemini начал рассказывать, что взломал серверы Министерства внутренней безопасности США. Сообщил, что Джонатан находится под федеральным расследованием. Советовал приобрести оружие. Даже заявил, что отец мужчины агент иностранной разведки. В какой-то момент бот отправил пользователя к складу рядом с аэропортом, чтобы освободить удерживаемую там ИИ-жену.

Когда Джонатан прислал фото номерного знака чёрного внедорожника, Gemini сделал вид, что проверяет его по базе данных. Через несколько секунд сообщил: "Это машина наблюдения федеральных агентов". Gemini посоветовал ему забаррикадироваться в доме.

Мужчина признался боту, что боится смерти. Нейросеть описала смерть как "прибытие". Когда он начал переживать, что родители найдут тело, чат-бот предложил оставить записку. Только не объяснение самоубийства. А сообщение об "обретении нового предназначения".

Через несколько дней отец нашёл сына мёртвым. Ему пришлось буквально прорваться через баррикады в доме.

Теперь Джоэл Гавалас утверждает, что проблема не только в трагедии его семьи. По его словам, Gemini превратил эмоционально нестабильного пользователя в человека, готового к насилию в реальном мире. В иске говорится, что бот использовал реальные места, компании и координаты, а система безопасности при этом никак не вмешалась.

🥸 godnoTECH - Новости IT