Инструменты на базе ИИ все чаще используются при подготовке правовых позиций, аналитических материалов и документов.
При этом одна из проблем — «галлюцинации» моделей.
Это ситуации, когда ИИ:
— ссылается на несуществующие судебные акты;
— искажает фактические обстоятельства;
— приводит отсутствующие цитаты и пр.
Реальные случаи галлюцинаций уже есть.
1️⃣ В Великобритании в одном из дел юристы представили позицию, в которой 18 из 45 прецедентов были галлюцинациями ИИ.
2️⃣ В России тоже есть первый задокументированный случай, когда часть судебного решения была создана нейросетью, но судебные инстанции не нашли в этом нарушения.
В Краснодарский краевой суд поступила необычная жалоба защиты: адвокаты, опираясь на заключение лингвиста, требовали отменить судебное решение, поскольку для его подготовки мог использоваться искусственный интеллект (ИИ). Апелляция оставила приговор в силе, поскольку применение ИИ в правосудии ничем не регламентировано.
3️⃣ В одном из дел в США юристы представили более двух десятков (20+) вымышленных судебных прецедентов, сгенерированных ИИ, за что были оштрафованы на $30,000 и дополнительно обязаны компенсировать расходы другой стороны.
➡️ Это наглядно показывает, что даже при высоком удобстве такие инструменты требуют осознанного и контролируемого применения.
💡 Практика Legal Tech и автоматизации процессов BGP Litigation подготовила алерт, в котором:
— разобраны ключевые механизмы возникновения «галлюцинаций» больших языковых моделей;
— систематизированы их основные виды и факторы, влияющие на вероятность ошибок;
— сопоставлены типовые ошибки в различных моделях;
— предложены практические подходы к выбору инструментов в зависимости от юридической задачи;
— рассмотрены способы снижения рисков при использовании ИИ в работе юриста.
🆕 Полный текст алерта — по ссылке.
#BGPanalytics