Недавно увидел новость на портале ГАРАНТ.
Суд по интеллектуальным правам оштрафовал ответчика за судебную практику, которой фактически не существовало.
В кассационной жалобе были указаны решения судов, которые не находились в картотеке или относились совсем к другим спорам.
Ответчик объяснил ошибку использованием ИИ.
⚖️ Суд этот аргумент не принял. И это важный момент: за документ, который вы подаете в суд, отвечает сторона процесса. Не нейросеть и не сервис, с помощью которого готовилась жалоба.
На мой взгляд, это один из главных рисков использования ИИ в юридической работе
Модель может выдать убедительную ссылку на дело, которого нет. И проверить ее занимает несколько минут. Но если этого не сделать, несколько минут экономии могут закончиться судебным штрафом.
Я 20 лет занимаюсь корпоративным правом и сейчас создаю ИИ-продукты для юристов. Поэтому считаю, что задача юридического ИИ не в том, чтобы просто быстрее написать текст. Важнее другое: показать юристу источник и дать возможность проверить каждый существенный вывод.
🖋В Камертон.Вердикт, при всех многочисленным системах защиты от галлюцинаций, мы встроили систему агента-критика, задача которого во-первых, не допускать появления галлюцинаций, а, во-вторых, сверять любой сгенерированных тезис с законодательной базой из векторной базы данных и судебной практикой. При наличии сомнений критик предупреждает пользователя и подсвечивает возможную ошибку⚠️
Методом проб и ошибок мы пришли к выводу, что идеально настроить модель и создать идеального критика невозможно, часть работы все еще должен делать сам юрист.