Однако есть принципиальная разница: модель предсказывает не обязательно правильный ответ, а наиболее вероятный. Модель оценивает вероятность того или иного ответа и выбирает вариант, который статистически чаще соответствует подобным запросам в её обучающих данных. Как вы понимаете, это не всегда правильный ответ.
...
Из-за этого результат языковой модели никогда не будет на 100% правильным и на 100% воспроизводимым. Для нас, юристов, это проблема. В юридических задачах модель не вправе галлюцинировать — например, придумывать несуществующие судебные решения или статьи закона. Или выдавать решение, когда верного ответа нет. Поэтому все ответы модели необходимо перепроверять
...
К сожалению, большие языковые модели не умеют рассуждать логически, то есть строить цепочку аргументов и на основании них доказывать некий тезис. ИИ на основании заложенных данных предсказывает максимально подходящий ответ. И поэтому, если немного усложнить контекст в неожиданном месте, модель теряется, хотя живой юрист бы шел по цепочке рассуждений и решил ситуацию корректно.
...
и вот решение:
Как эти проблемы решают сервисы на основе ИИ? В действительности эти проблемы наиболее актуальны для пользователей, которые «общаются» с большой языковой моделью через чат с помощью промптов. С распространением ИИ на рынке появились сервисы, которые предлагают решения для определенных юридических задач и новый пользовательский опыт. Например, сервис для быстрой проверки договоров Noroots. Он использует несколько больших языковых моделей одновременно. Каждая из них выполняет ту задачу внутри процесса, с которой справляется лучше всего — будь то поиск информации, формирование рекомендаций и так далее. Промпты для этих моделей заранее прописаны и протестированы юристами и разработчиками Noroots. Пользователь же только загружает договор, который хочет проверить, и одним кликом отдает команду сервису. Также сервис интегрирован со справочно-правовой системой «Гарант» и ЕГРЮЛ, что позволяет ему оперировать достоверной информацией и проверять контрагентов по обновляемым данным.
Сразу отмечу, что 21 страница не помечена как рекламная вставка, не сказано, что автор может быть не согласен с указанными в рекламе тезисами, а написана так, что если бы не выделение цветом, то вообще было бы очень сложно догадаться, что это возможно не мысли автора, а текст написанный рекламным копирайтером ноурутс. Хотя это всего мои догадки и может быть Роман действительно нас подвел к мысли, что ноурутс это решение всех проблем? но тогда почему дальше по тексту идет обзор GPT4, а не продукта от ноурутс?