ИИ ссылается на идеальный закон.
Жаль, что его не существует.

Недавно у одного крупного клиента ИИ помогал разбирать юридический вопрос. Ответ выглядел безупречно. Проблема в том, что такой статьи в реальности не было.

Сам закон — настоящий. Номер — правильный. Структура — совпадает. ИИ просто «дописал» статью, которая очень логично туда вписывалась. Настолько логично, что сначала возникло ощущение: «Странно, а почему её раньше не было?»

ИИ не просто ошибается — он рассуждает и достраивает реальность по логике.
Но логика не равна реальности.

Юридические задачи — не та зона, где ИИ можно оставлять без контроля. Чем выше ответственность и сложнее интерпретация, тем дороже галлюцинации.

Как с этим жить:
❤ разделять генерацию решения и проверку источников
❤ отдельным запросом вытаскивать все статьи и номера законов
❤ проверять каждую ссылку вне контекста прошлых диалогов

Некоторые агенты так и работают: сначала генерируют решение, потом отдельным запросом выбирают все статьи и законы, собирают ссылки через скрипт и проверяют каждую ссылку в новом «чистом» диалоге.

Автоматизировать можно. Убирать человека совсем — нет. ИИ отлично подходит для типовых обращений и шаблонов. Но как только начинается «давай подумаем» — проверка становится обязательной.