За последние годы судьи назначили немало штрафов адвокатам, использующим ИИ для подготовки документов, но сами они также идут в ногу со временем. В одном таком случае биотехнологическая компания CorMedix Inc. получила решение судьи, полное неточностей, характерных для LLM.

CorMedix участвовала в споре с акционерами, заявлявшими, что компания предоставила ложную информацию о своем препарате DefenCath во время попытки получить одобрение FDA. CorMedix подала ходатайство на отклонение иска акционеров, но получила отказ, в котором было много ошибок. Судья Жюльен Ксавье Нилс назвал поведение ответчиков “классическим доказательством умысла”, а сертификацию препарата руководством - “ложными заявлениями”, процитировав при этом более ранние дела. На самом деле таких цитат в этих делах не было. Заодно Нилс перепутал судебные округа и приписал CorMedix пару заявлений, которые она не делала.

Когда юристы компании указали судье на ошибки, он отозвал решение. Неофициально суд сослался на то, что проект решения готовил временный помощник, и исследование, проведенное с помощью ИИ, “случайно” попало в итоговый вариант. Формально использование ИИ так и не было раскрыто.

В другом случае суд выдумал несуществующих истцов, ответчиков и свидетелей. В Миссисипи судья Генри Уингейт вынес решение, блокирующее усилия властей по запрету программ равенства и инклюзивности в университетах. Оно изобиловало ошибками: из 12 перечисленных истцов реальности соответствовал только 1, двое из упомянутых ответчиков также были фальшивыми. Кроме того, суд ссылался на показания 4 свидетелей, которых не было в протоколе. В решении было множество и других фактических ошибок - от несуществующих цитат до упоминания событий, которые никогда не происходили. После жалобы юристов решение также было отозвано.

При этом суды не стесняются штрафовать адвокатов, если они используют ИИ при подготовке документов. На днях судья в Алабаме назначил одному из них штраф в $5 тыс. и обязательство уведомлять будущих клиентов об инциденте, раскритиковав его поведение на 18 страницах. В другом недавнем случае в Квебеке мужчина, защищавший себя в суде самостоятельно, также получил штраф в размере C$5 тыс. Судья заявил, что ответчик “должен в одиночку вынести весь позор из-за цитат, «придуманных» ИИ, на которые он опирался, строя свою позицию”.

Несмотря на это, некоторые страны начинают использовать ИИ в качестве помощников судей. Например, мексиканская система Expertius консультирует судей по вопросу о том, имеет ли истец право на получение пенсии. При этом некоторые правительства рассматривают перспективу перехода на LLM в качестве судей первой инстанции. Общество пока не готово к такому шагу, но стремление властей сэкономить на содержании судебной системы может привести внедрению ИИ раньше, чем оно привыкнет к этой идее.

В чем проблема ИИ-судей и LLM-адвокатов?

*️⃣ Подготовка судебных документов с помощью ИИ требует скрупулезного фактчекинга, который занимает ненамного меньше времени, чем написание текста с нуля.
*️⃣ То же самое касается судебных решений, вынесенных ИИ: кто-то должен проверять достоверность фактов и то, правильно ли модель поняла “дух и букву” закона. Будет ли это требовать меньше ресурсов, чем работа судьи-человека - большой вопрос.
*️⃣ Нагрузка на апелляционные инстанции вырастет из-за ошибок, допущенных ИИ.
*️⃣ Судебная система может быть взломана, а данные подделаны, что приведет к искажению вердиктов.
*️⃣ Судья принимает во внимание не только закон, но и намерения сторон, раскаяние и иные обстоятельства. ИИ, не понимающий контекст и эмоции, на это не способен. Соломоново решение о разделе ребенка пополам, скорее всего, было бы признано справедливым и рациональным.
*️⃣ Еще одна общая проблема ИИ - легитимность и ответственность. Неизвестно, кто будет отвечать в случае, если неверное решение приведет к ущербу.