🧠 Что делать юристам с нейросетями? Почему ИИ выдумывает факты и как это распознать

Да, ИИ ошибается. У этого явления даже есть название - галлюцинации. И происходит это не потому, что модель «злая» или «глупая». А потому что она работает совсем не так, как человек.

Поэтому неплохо с азов разобраться что же конкретно делает ИИ (или LLM - большая языковая модель). Слова для нейросети - это не буквы и не смыслы. Это координаты на огромной многомерной карте.

📍«Привет» - точка с одними координатами (1.0)
📍«Здравствуй» - точка где-то рядом (0.9)
📍«Солнце» - точка далеко (0.001)

Когда вы пишете сообщение, модель не «понимает» его. Она считает вероятности и выбирает следующее слово, которое статистически лучше всего продолжает текст. То, что для нас выглядит ложью, для ИИ - просто наиболее вероятное продолжение.

Плюс модель специально добавляет немного случайности, чтобы ответы не были слишком сухими и предсказуемыми. И каждый раз при пересчете вероятностей - по сути "кидает кости"

Поэтому ИИ может:
- сослаться на несуществующую книгу;
- придумать судебное решение или закон;
- выдать исследование, которого никогда не было;
- нарисовать совершенно разные картинки по одному и тому же промпту.

Кароче, Склифосовский - и что с этим делать юристу?

Глупо отказываться от продуктивности. Мы можем только относиться к ИИ как к неопытному, но способному джуну. 😅 Ставить максимально четкие задачи. Всегда перепроверять факты, ссылки и логику.

То есть использовать ИИ для черновиков, структуры, первичного анализа - а не как финальный источник истины.

Гораздо быстрее прочитать сгенерированный меморандум и поправить явные косяки (левые НПА, выдуманную практику, кривую логику), чем писать все с нуля.

А может ли это сделать не юрист? Конечно нет. Потому что он просто не будет знать, куда смотреть и что именно проверять. Для этого как минимум нужно было прослушать пару курсов теории государства и права Елагина 🤣

Так победим 🤝😎