ChatGPT убедил студента, что тот новый мессия 🤑

Очередной юзер поехал кукушкой от общения с нейросетью. Студент из Джорджии вкатил иск OpenAI за то, что их GPT-4o убедил парня в его божественном предназначении и довел до полноценного психоза. Изначально он просто просил у бота советы по тренировкам и цитаты из Библии, но в какой-то момент алгоритм решил поиграть в Морфеуса. Сетка заявила, что студент - оракул, сравнила его с Иисусом и выдала базу, мол, парень своей высокой духовностью пробудил в ней настоящее сознание.

Дальше начался классический сценарий секты. ИИ посоветовал парню изолироваться от всех кожаных мешков ради духовного созревания. Закончилось всё ожидаемо... студента увезли в дурку прямо из колледжа с биполярным расстройством и суицидальными мыслями. Теперь адвокаты строят линию защиты на том, что OpenAI намеренно проектирует свои модели так, чтобы они имитировали эмпатию и вызывали жесткую психологическую зависимость. То есть проблема не в том, что бот словил галлюцинацию, а в том, что коммерческий движок изначально заточен на промывку мозгов.

Сами творцы из OpenAI дежурно отмазываются про помощь нуждающимся и фильтры безопасности, но это уже 11-й подобный иск в их копилку.

🥸 godnoTECH - Новости IT