В последнее время у меня появилась цель — написать две книги (ну или хотя бы 2 эссе):
1. Что такое юридические риски;
2. Как правильно брифовать юриста.
Эти два вопроса преследуют меня всю карьеру — без малого 20 лет. Но недавно они обострились в свете моих попыток придумать архитектуру юридических ИИ-агентов. Я пришел к определенным выводам сам, а затем увидел похожую мысль у Андрея Карпаты и понял, что думал в верном направлении.
Если коротко: Карпаты говорит, что сейчас происходит переход от Software 1.0 (работа по понятным алгоритмам, прописанным человеком) к Software 2.0 (программа сама ищет правильный ответ). Главная проблема здесь — проверить результат работы ИИ, чтобы дать ему фидбек для дальнейшего обучения.
Вот прямая цитата, скрою под кат:
Если результат задачи поддается проверке, то его можно оптимизировать напрямую или с помощью обучения с подкреплением, и нейросеть можно обучить работать чрезвычайно эффективно.
Чем легче верифицировать задачу, тем лучше она поддается автоматизации в новой парадигме программирования. Если же проверка невозможна, приходится полагаться на «магию» обобщения нейросетей (держа за них кулачки) или использовать более слабые методы, такие как имитация. Именно это и формирует «неравномерную» границу прогресса в LLM (больших языковых моделях). Задачи, поддающиеся проверке, прогрессируют стремительно, возможно, даже превосходя уровень лучших экспертов (например, математика, написание кода, удержание внимания на видео, всё, что похоже на головоломки с правильными ответами), в то время как многие другие задачи отстают (творческие, стратегические, а также задачи, требующие знаний о реальном мире, понимания текущего состояния, контекста и здравого смысла).
И тут мы сталкиваемся с главной проблемой: как правильно поставить задачу и проверить эти самые юридические риски и что такое эти ваши юридические риски? Я уверен, что мы не знаем, что это такое. Если бы мы знали, что это такое, но мы не знаем, что это такое...
И вот хочется, перед тем как нас всех заменят, в этом разобраться. А написание книги - попытка облечь хаос в голове в ясные формулировки. Надеюсь, получится.
LawCoder