Опаснее выдуманного дела только настоящее, где суд решил иначе

Недавно коллега рассказал историю. Оппонент сослался в процессуальном документе на вроде бы существующую судебную практику, но «истолковал» её весьма специфично. Акты были совсем о другом.

Скорее всего, толковал, конечно, не он, а нейросеть.

И я вспомнил, что сам регулярно это наблюдаю. ИИ находит практику, даёт ссылку на акт и уверенно пишет: «Вот тут подтверждается ваш аргумент». Начинаешь читать, и начало акта действительно повторяет фабулу, которую описал ИИ. А вот вывод суда совсем о другом.

Такие «галлюцинации» я бы разделил на два случая. Причём второй опаснее первого.

1️⃣Случай первый: классический. Нейросеть хочет угодить пользователю. Она не читает акт целиком, а генерирует правдоподобный текст.

Тут всё давно известно, это технические особенности. Такая ошибка получила даже название — misgrounded. Получается, что судебный акт существует, ссылка рабочая, но вывод там иной. Заметить это сложнее, чем выдуманное дело.

2️⃣Случай второй: ловушка от российских судов. Особенность судебных актов российский судов в том, что судебный акт часто дословно пересказывает позиции сторон. А они написаны так, как хотелось бы, чтобы написал суд.

Нейросеть не отличает позицию стороны от вывода суда и уверенно заявляет: «суд пришёл к выводу…».

В итоге будет точная цитата из реального судебного акта. Только это вывод истца или ответчика, а не суда. В такую ловушку может попасться и тот, кто акт всё же прочитал, но бегло.

Кстати, я ловил сторон на этом и до всякого ИИ. Пересказ своей позиции выдавали за вывод суда, причём по собственному спору и очень уверенно.

📌Что с этим делать

Быть внимательным и всё перепроверять. Я в принципе считаю, что одно из главных качеств юриста — критическое мышление. Ставить под сомнение всё — является естественным для нас. Значит под сомнение надо ставить и выводы ИИ и ссылки ИИ.

🏷Прочёл в законе