ИИ написал, помощник не проверил, адвокат заплатил

В июле в Калифорнии адвокат использовал ИИ при подготовке апелляционной жалобы. Нейросеть добавила туда цитаты из судебных решений, которых в самих решениях не было. При этом дела существовали на самом деле – ИИ взял реальные решения калифорнийских судов и дописал в них формулировки, которые хорошо подходили под нужную правовую позицию.

Адвокат объяснил суду, что работал над жалобой между заседаниями по другому делу и поручил паралегалу проверить ссылки перед подачей. Паралегал решил, что адвокат их уже проверил. В итоге рабочее недопонимание закончилось тем, что в апелляционный суд ушёл документ с выдуманными цитатами из настоящей судебной практики.

Суд указал, что использование ИИ не освобождает юриста от обязанности проверить документ перед подачей. Если позиция строится на конкретном решении и конкретной цитате, ответственность за их достоверность всё равно остаётся на адвокате.

Одна из придуманных цитат очень точно подтверждала нужный аргумент и якобы содержалась в решении Верховного суда Калифорнии 26-летней давности. Здесь нейросеть, конечно, поступила по-человечески. Нашла ровно тот прецедент, который был нужен.

Ошибки обнаружили позднее, а суду о них сообщили только спустя несколько месяцев, за несколько дней до устных слушаний. Суд оштрафовал адвоката на $1 500, направил решение в коллегию адвокатов и обязал уведомить клиента о произошедшем.

ИИ придумал цитату, помощник не проверил, суд проверил. Автоматизация юридической работы на этом закончилась.