Когда ИИ подводит юристов: реальные судебные "триллеры"

На прошлой неделе мы разобрали, как применяется ИИ в законотворчестве, судах и госуслугах, как формируются правила «игры».
Сегодня обратная сторона медали, когда ИИ не помогает, а подставляет.
На данный момент зафиксировано 276 кейсов с "галлюцинациями" ИИ.
📌Смотрим трекер по странам здесь.

Несколько примеров кейсов:
1️⃣США
🔹Mata v. Avianca (2023)
Суд отклонил иск о причинении вреда здоровью против авиакомпании Avianca, где истец утверждал, что получил травму, когда металлическая сервировочная тележка ударила его по колену во время международного рейса. Адвокаты истца были оштрафованы на $5000 за представление фиктивных прецедентов, созданных ChatGPT.
Дело является знаковым, на него часто ссылаются суда и также было принято заключение об ответственности юристов, использующих ИИ.
🔹Lacey v. State Farm Gen. Ins. Co. (2025)
9 из 27 юридических ссылок в десятистраничном документе были неверными, два из упомянутых источников вообще не существовали.
Юридические фирмы оштрафованы на $31 000, отказ в ходатайствах.

🔹Kohls v. Ellison (2025)
Парадокс этого кейса заключается в том, что иск был против законов штата, запрещающих политическую сатиру, создаваемую ИИ. Генеральный прокурор в ответ представил экспертный отчет, где были обнаружены "галлюцинации" ИИ". Более подробный обзор здесь.

🔹Johnson v. Dunn (2025)
Не смотря на то, что дело вели юристы из уважаемой юридической фирмы, где была разработана политика применения ИИ, предупреждения в отношении ИИ, ими были предоставлены ходатайства со всем спектром ошибок ИИ:
- неверный кейс, неверная цитата ;
- сфабрикованная ссылка с использованием названия реального дела;
- полная фальсификация;
- сфабрикованная цитата, звучащая реалистично;
- реальное название дела, неверное цитирование и утверждение.
Итог: дисквалификация адвокатов (прямое неправомерное использование ИИ без проверки (Ривз), отказ от обязанностей по подаче документов (Крэнфорд) и халатность руководства, усугублённая уклонением от ответственности (Лансфорд)), передача регуляторам.
Юридическая фирма избежала санкций только благодаря решительному реагированию на инцидент и проведению масштабной работы по устранению выявленных нарушений:
- привлечен внешний консультант для проведения независимой проверки более 2400 юридических ссылок из 330 документов, находящихся в 40 федеральных реестрах.
- создание внутреннего комитета по ИИ и принятие протоколов для ответственного использования;
- обучение ответственному использованию ИИ;

2️⃣Великобритания
🔹Ayinde v London Borough of Haringey & Al-Haroun v Qatar National Bank ( 2025)
Сфабрикованные цитаты, включая цитату, приписываемую самой судье.
Суд дал широкие рекомендации по использованию ИИ в юридической практике.
🔹Bandla v. Solicitors Regulation Authority (2025)
По меньшей мере 25 сфабрикованных или несуществующих ссылок на судебные дела.
Итог: ходатайство о продлении срока отклонено; апелляция отклонена по причине злоупотребления процессом; взысканы расходы на возмещение ущерба в размере 24 727,20 фунтов стерлингов; в разрешении на апелляцию отказано.

3️⃣Канада
🔹Zhang v. Chen (2024)
Адвокат использовал ChatGPT для оказания помощи в подготовке уведомления о подаче заявления по семейному делу, касающемуся поездок родителей с детьми (ссылки на два вымышленных дела). Адвокаты противоположной стороны указали на несуществующие дела.
Это дело стало первым резонансным примером подобной проблемы в Канаде, заставив обратить внимание на необходимость проявления осмотрительности.

ИИ может ускорять работу, но в процессе цена ошибки высока.

Мини чек-лист:
▪️никогда не цитируйте то, чего вы сами не нашли в надёжной базе;
▪️журнал проверки ( где искали, что нашли, чем подтвердили);
▪️не поручайте ИИ проверку ИИ (проверяйте источники руками);
▪️разработайте и внедрите внутренние правила (когда и как можно использовать ИИ, кто проверяет, как фиксируете проверку, что и кому раскрываете);
▪️быстро и решительно реагируйте на инцидент (извинение, корректировка материалов, обучение ).
#UXWatch
————
@pattern_ai