Судебный эксперт поручил ChatGPT оправдать виновника взрыва завода и проиграл дело на $61 млн 🤦‍♂️

Специалист скормил чат-боту сотни страниц материалов дела и прямо приказал доказать, что компания-владелец невиновна в трагедии, унесшей жизни трёх человек и разрушившей две сотни домов.

Хитрую схему раскрыл адвокат потерпевших, заметивший характерные машинные формулировки. Юрист заставил защиту выгрузить полную историю диалогов эксперта с ботом, насчитывающую 350 страниц.

Выяснилось, что специалист не просто просил нейросеть написать оправдательный текст, но и требовал от нее расхвалить его собственную квалификацию. Примечательно, что сам ChatGPT проявил больше юридической осторожности, чем живой инженер: бот заранее советовал убрать формулировку про нулевую ответственность, назвав ее слишком легкой мишенью для оппонентов, а затем выставил написанному им же отчету оценку 97 из 100.

Когда обман вскрылся, компания 3M попыталась экстренно отстранить своего незадачливого эксперта от процесса, но сторона обвинения настояла на его допросе перед присяжными. Позорное разоблачение стало решающим гвоздём в позиции защиты: коллегия присяжных признала вину конгломерата и присудила пострадавшим семьям свыше $61 миллиона долларов компенсации.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX