Технолитигация

Anthropic запретили обижать Клод и ругаться на него матом. Могут даже забанить за такое.

Лично знаю несколько человек, которые сдабривают промпты ругательствами. Чтобы лучше думал. Теперь с такими техниками надо быть осторожнее.

Друзья, телеграмм-канал – это здорово, но я решил пойти дальше и нести знания не только в профессиональном, но и в студенческом научном сообществе. Этой осенью я принял новый вызов и буду читать курс «Введение в промпт-инжиниринг» в своей альма-матер, где завершил обучение в прошлом году – Отделении теоретической и прикладной лингвистики МГУ.

Иногда буду публиковать здесь наиболее сложные или интересные вопросы, с которыми мы со студентами столкнулись на этом пути.

5D-шахматы рынка ИИ

Последние полгода в преддверии IPO таких левиафанов как OpenAI и Anthropic мы живем в мире маркетинга, который работает на страхе.

OpenAI и Anthropic соревнуются:
"Моя модель взломала Hugging Face!"
"А моя - несколько компаний!"
"Ах так, а моя - взломала Пентагон!"
"Да что ты несешь, моя - взломала ООН!"
"Ну это мелочи, а моя вообще человека убила!"
"Ну тогда держись - моя может все человечество угробить!"

Видимо, дальше придется размениваться планетами и другими космическими объектами.

Все эти громкие заявления - это красивая демонстрация силы: если наша модель устраивает такое - представляете, какая она умная? А уж с потерпевшими мы как-нибудь разберемся и рассчитаемся.

Потерпевшие себя ждать не заставили и на волне ярких публичных признаний разработчиков ИИ про взломы начали подавать иски.

В связи со взломом Hugging Face в Калифорнии некоммерческая организация предъявила иск к OpenAI со специфическим (на мой ру-литигаторский вкус) требованием - запретить создавать ИИ-агентов, способных взламывать другие компании (1, 2). Видимо, не меньше 10 лет будут рассматривать этот кейс, если не собьют в первые несколько заседаний.

Ожидаю также иски и от других пострадавших.

В то же время, учитывая масштабы стратегии этих гигантов, я убежден, что эти суды а) уже давно учтены во всех возможных резервах, б) гиганты намерены договориться либо договорились с потерпевшими еще на старте. В противном случае так беззастенчиво признаваться в правонарушении, тем более в США, равносильно финансововому и корпоративному самоубийству.

Вот такие шахматы - видимые ходы на трехмерной доске стали возможными благодаря ходам невидимым из другого измерения.

Штрафы за утечки 2025-2026 (I полугодие)

InfoWatch ежегодно выпускает аналитический материал по утечкам. Мне нравится, что в нем они охватывают не только Россию, но и остальной мир. Это позволяет увидеть картину целиком.

Статистика по России бьется с тем, что я сам наблюдаю и отслеживаю, вот несколько трендов:

1.      Минимальные административные штрафы, а то и вовсе предупреждения.

Например, интернет-провайдер Орион за утечку летом 2025 года получил предупреждение. Деталей почти нет, т.к. процессы закрытые. К административной ответственности привлечены 8 компаний группы. Но интернет-провайдер оспаривает даже предупреждение – скорее всего, там есть аргументы в пользу отсутствия состава правонарушения.

В плане применения жестких штрафов мы отстаем от всей планеты, где топ-15 утечек самый крупный штраф – 409 млн долл. (Южная Корея), а самый маленький – 1,3 млн долл. (Польша). У нас есть оборотные штрафы, поэтому потенциал в этот рейтинг попасть – имеется.

2.      Стабилизация количества утечек в России. Прекратился двухкратный ежегодный рост с 2022 года.

3.      По причинам утечек мы приблизились к остальному миру с 2022 года. Если раньше 86% случаев утечки были обусловлены кибератаками, то сейчас – 76% (в мире – 66%). Остальное – внутренний слив информации.

Важно, что отчет отражает только утечки, дошедшие до суда. Поэтому в выборку попало очень малое количество утечек в каждой стране. Утечек – сотни, а вот доступных для анализа судебных актов – десятки. В реальности, если брать все утечки, картина может быть другой.

Сам отчет прикрепляю, он всего 18 страниц.

Взял с собой в поездку книгу, которую рекомендовал коллега - про бухгалтерский учет для дилетантов.

На всем протяжении карьерного пути я регулярно встречал невероятные суждения бухгалтеров. И думал, что юристы и бухгалтеры живут в разных мирах, совместить которые невозможно. Исключение - это разве что налоговые юристы.

Забегая вперед, скажу, что этот вывод подтвердился лишь отчасти.

Приведу лишь несколько отличий базовых понятий у юристов и бухгалтеров.

1. Активы для бухгалтера и имущество для юриста - это две разных сущности, которые иногда пересекаются. Старый сарай в глухом лесу за полярным кругом для бухгалтера активом не будет.

2. Моменты возникновения, исполнения обязательства у юриста и постановках этих сущностей на учет бухгалтером могут не совпадать по времени.

3. Особое наполнение терминов "доходы" и "расходы". Для бухгалтера доход - это то, что увеличило экономическую выгоду. Получение кредита на 100 руб. от банка - это не доход. Аванс - это тоже не доход. Бухгалтер скажет, что в ГК доходы в большинстве статей - это поступления денежных средств на счет, а не доход. Так, например, в управлении доходами подопечного (ст. 37 ГК) или в вознаграждении доверительному управляющему (ст. 1023 ГК).

Для юриста наполнение термина "доход" имеет принципиальное значение, т.к. он является ядром упущенной выгоды, disgorgment of profits (абз. 2 п. 2 ст. 15 ГК) и возмещения потерпевшему неполученных доходов (ст. 1107 ГК). Пару лет назад удалось убедить суды трех инстанций при взыскании disgorgment'а не учитывать расходы нарушителя. Насколько мне известно, судебная практика с этим еще окончательно еще не разобралась.

В книге описаны и другие сущности (амортизация, двойная запись, оборотные и внеоборотные активы), но это уже детали, которые нарастают на фундамент.

Книга еще понравилась потому, что объясняет, как правильно читать публичную отчетность и что делать с этим потоком чисел. На ее основании можно определить точку безубыточности, какой процент по кредиту компания может себе позволить (и может ли вообще брать кредит). Теперь есть дополнительная оптика. Но это работает при условии, что отчетность достоверна, а это не всегда так.

Книгу, вслед за коллегой, рекомендую.

Продолжая тему строительства дата-центров:

1. Нью-Йорк ввел 1-летний мораторий (запрет) на строительство крупных дата-центров. Мотив - слишком высокий темп потребления электроэнергии и недовольство жителей.

2. Вряд ли наши власти тоже преследовали такую цель, но в Подмосковье повысили ставку арендной платы муниципальной земли под дата-центры в 68 раз. В реальных величинах - раньше расходы на аренду земли под дата-центры составляли около 30 тыс руб., а сейчас - 1.5 млн руб. Много это или мало - судите сами, но у некоторых предпринимателей дата-центров из-за этого перестала сходиться финансовая модель, даже пришлось GR задействовать.

Диалог-2026

Это одна из старейших визионерских конференций в области компьютерной лингвистики. Полюбуйтесь на темы, которые обсуждали на ней в 2000-м году, когда я еще в детский сад ходил:

- Генерация тонального контура фразы в системах автоматического синтеза речи
- Система выявления из документов значимой информации на основе лингвистических знаний в форме семантических сетей
- К вопросу об автоматизации литературно-научного редактирования
- Алгоритмы cегментации предложений на простые составляющие

Эти темы - первые шаги, научный поиск того, что сегодня уже повседневность. Я напомню, что в те времена не было не только ИИ, в это время машинное обучение только зарождалось, в основном обходились статистическими методами. Про распространенность компьютеров и вовсе молчу.

В 2026 году на одной из панелей этой конференции решили обсудить LLM и юриспруденцию, я с интересом послушал два доклада.

1. Первый доклад был посвящен тому, как работает ИИ у Гаранта.

В текущей версии ИИ от Гаранта представляет собой аналог Perplexity, но не по объему функционала, а по архитектуре. Она предполагает, что до обращения кLLM есть много работы с запросом пользователя, обращения к их справочной системе, ответам экспертов и т.п. Только потом за работу принимается LLM. Причем LLM они используют разные (подозреваю, что DeepSeek, может и российские какие-нибудь).

В их архитектуре LLM – это автономный модуль, который можно менять без каких-либо доработок. Я вижу в этом конкурентное преимущество, т.к. нет зависимости от конкретной LLM.

Нейроюрист от Яндекса тоже работает на базах Гаранта. Раньше я думал, что Нейроюрист от Яндекса подключается как раз в виде такого автономного модуля. Но выступающий уточнил, что у Нейроюриста есть только доступ к данным Гаранта, всю дальнейшую подготовку информации и саму LLM берет на себя Яндекс.

Из описания архитектуры в докладе и собственного опыта я сделал вывод, что российскому ИИ в области юриспруденции (не только Гаранту) еще предстоит справиться с массой проблем и препятствий.

2. Второй доклад - научная проба пера. Он посвящен техническому решению, которое с помощью LLM сравнивает резолютивную часть судебного акта с законом и сигнализирует о противоречиях. Авторы взяли только судебные акты о привлечении к административной ответственности ст. 18.8 КоАП и оценивали, как хорошо LLM сравнивает норму права и резолютивную часть. С учетом разных костылей и обвесов у авторов получился довольно высокий результат: 80%. Это значит, что если загрузить судебный акт в эту систему, то с вероятностью 80% будет дан правильный ответ. Для человека это очень мало, для LLM - приемлемый результат.

Результаты немного омрачаются тем, что авторы не учли возможность вынесения предупреждения, наказания ниже низшего предела (ч. 2.2 ст. 4.1), поэтому в этих случаях модель должна была показать «противоречие», хотя с т.з. закона никакого противоречия бы не было.

Видимо, представленное техническое решение является частью какого-то большого продукта по проверкам, т.к. в таком изолированном виде неясна его ценность (кроме сугубо научного тестирования).

Как ИИ влияет на отдельные категории споров в США

Нашел очень подробное статистическое исследование про США о том, как ИИ повлиял на дела, где стороны не нанимают юристов и ведут дело самостоятельно.

Описание выборки

Авторы проанализировали 4.5 млн гражданских дел, где стороны не нанимают юристов, за 2005-2026 в США.

За 20 лет кейсов в США было больше, но исследователи дотянулись только до этих: в статье утверждается, что в среднем в США 11% дел ведутся самостоятельно. Я нашел, что в США только за 2023 год было подано 68 млн исков. И это еще не самое крупное число. По грубым прикидкам и условностям счета (что такое "самостоятельно" и где начинается "рассматривается судом") в год получается около 7 млн исков, где стороны не нанимают юристов. Следовательно, за 20 лет - это как минимум 140 млн дел. А в выборку попали только 4,5 млн., т.е. 3%. Вот из этих 3% мы и будем делать далеко идущие выводы про судебную систему США.

Результаты

С 1999 по 2018 (19 лет) количество кейсов, где стороны не нанимают юристов, а действуют сами, стабильно держалось на уровне 11%. В 2025 г. количество таких кейсов увеличилось до 16,5%. В процентах вроде бы немного, но в абсолютных числах это + 350 тыс. дел в год.

1. Рост по категориям споров неравномерный. Больше всего ИИ используется в спорах, где есть формализованные процессуальные документы и в целом понятная структура: авторы приводят в пример споры из потребительского кредитования. В сложных спорах – например, нарушение патентных прав – роста не наблюдается вовсе. Думаю, все и так были уверены, что LLM разгонит простые споры, а на сложные повлияет минимально. Теперь эта уверенность подтверждается эмпирически, по крайней мере для судебной системы США.

2. Процессуальная активность сторон в таких делах увеличилась на 158%, т.е. стороны стали чаще обмениваться состязательными документами. Это выяснили, посчитав состязательные документы по каждому делу из выборки.

3. Любопытно, что длительность рассмотрения дел с 2015 по 2026 не увеличилась, держится стабильно на 180 днях в среднем.
Интуитивно кажется, что подготовка состязательных документов с помощью ИИ должна увеличить срок рассмотрения дел. Больше документов -> больше времени на их изучение и обсуждение -> больше судебных заседаний -> больше срок на рассмотрение. Срок также мог увеличиться и от того, что ИИ генерировал фантастику, что снова потребует большего внимания судьи и больше заседаний. Но эта гипотеза не подтверждается эмпирически.

4. Исследователи выборочно прогнали документы по таким делам через ИИ-детектор. В 2023 году количество ИИ-сгенерированных документов составляло 1%, а в 2026 – уже 18%. Даже учитывая условность ИИ-детекторов существенный рост все равно есть, пусть и не в 18 раз.
Выводы исследования наглядно демонстрируют, что ИИ существенно влияет на отдельные категории споров.

Россия

Про Россию таких исследований нет. Я с трудом представляю себе, какими административными ресурсами должны обладать исследователи, чтобы провести его.

Думаю, что до нас этот тренд тоже доберется ближайшие годы. У нас точно такие же люди, которые не готовы лишний раз коммуницировать с юристом, тратить на него деньги и предпочитают обходиться своими силами. Думаю, пропорция таких людей одинакова в любой стране. Можно, конечно, возразить, что в США услуги юриста очень дорогие, но и у нас в России они не дешевые. Человек любой страны всегда захочет пойти более простым и дешевым путем, особенно если цена судебного вопроса не превышает его месячной зарплаты.

Поэтому моя гипотеза – наши граждане станут реже обращаться к юристам, предпочитая сделать документ через ИИ. Но думаю, что раньше чем через 3-4 года мы это не заметим.

Как думаете, ИИ придаст смелости сторонам самим защищать себя в суде и количество таких дел возрастет, или же влияние будет иным?

ВС РФ соревнуется с Минцифры по нормотворчеству в области ИИ

2 недели назад вышло новое постановление Пленума ВС РФ N 15 о подготовке дела к судебному разбирательству (ГПК).

Введена новая процессуальная обязанность. Если сведения о фактах получены с использованием ИИ - участвующее в деле лицо должно проинформировать об этом суд (абз. 4 п. 42).

Интуитивно понятна цель ВС РФ -  защить суды от лавины бездумной генерации процессуальных документов. Также понятна сугубо формальная причина, почему новая обязанность касается только сведений о фактах - суд ведь знает право, а участники дела могут любую абракадабру написать в правовом обосновании своих требований, суд эту абракадабру прочитает, но нормы применит исключительно сам.

Да, в мире должного ввести суд в заблуждение о нормах права невозможно. Но в мире сущего это регулярно происходит из-за массы обстоятельств. И неплохо было бы определять границы обязанности предупреждать об использовании ИИ с учетом ситуации на земле.

Я убежден, что этичное и теперь уже законопослушное поведение в судебном процессе требует предупреждения суда об ИИ-генерации во всех случаях.

Использование ИИ в моих глазах делает любой документ более сомнительным, нежели его готовил человек. Поэтому думаю, что никто спешить с предупреждением не будет.

Выдумывать нормы права и судебную практику и раньше было нельзя. Но этот запрет не мешает дать более широкую рамку и обязывать предупреждать об использовании ИИ не только для фактов, но и для права. Раз уж взялись за ГПК в реалиях ИИ-хайпа.

Интересны а) применение этой обязанности по аналогии в АПК, б) судьба постановления Пленума по подготовке применительно к АПК - будет ли оно дорабатываться.

Также интересно, будет ли эволюционировать наказание за введение в заблуждение суда или это будут классические судебные штрафы. Я не пишу здесь про наказание за "ложь в суде", т.к. не вижу умысла на обман при использовании ИИ. Скорее безалаберность и невнимательность. По общему правилу, разумеется.

В особых случаях я допускаю, что использование ИИ, которое привело к негативным последствиям, должно влечь отнесение на такую сторону всех судебных расходов (ст. 111 АПК).

Вишенка на торте - это доказывание, что оппонент использовал ИИ и оценка судом таких доказательств. AI-детекторы не помогут, недавно выяснилось, что Декларация независимости США (1776) на 98% сгенерирована ИИ. Видимо, только если сторона сама признается. В общем, тонких процессуальных материй здесь полно.

Я прогнозирую, что суды будут расширительно толковать эту обязанность. Потому что человек, который сведения о фактах не может / не хочет без ИИ изложить, вряд ли он будет себя утруждать поиском применимых норм права. Связка "сгенерированы сведения о фактах - сгенерировано правовое обоснование" здесь лежит на поверхности.

Будем смотреть, как суды и участвующие в деле лица воспримут новую процессуальную обязанность.

Маркетплейс ИИ-юристов

На волне историй о том, что ИИ-агентов в России теперь можно нанимать как работников (проект Superjob) мне попалась статья про маркетплейс ИИ-юристов для досудебного анализа кейса. Выводы применимы не только для досудебного, но и вообще любого анализа, в т.ч. не юридического.

Сразу скажу – для меня это статья скорее программная, из далекого будущего.

Материала много, авторы описали общий сценарий работы условного ИИ-агента, технические особенности маркетплейса, где агент взаимодействует с пользователем и «существует» (спойлер – он децентрализован и весь на блокчейне).

Признаться, я не думал о проблемах такого маркетплейса ИИ-агентов, а их, оказывается, полно. И связаны они с информацией о конкретном ИИ-агенте, чтобы пользователь на ее основе выбирал себе подходящего «сотрудника».
ИИ-агент может быть предвзят из-за обучающих данных. Может случиться мем. Поэтому правильно, чтобы пользователь при выборе агента такую предвзятость сразу видел: сколько в выборке было социально-демографических групп и т.п.

Предвзятость – это большая проблема, она лечится а) системными промптами разработчика, б) скрупулезным анализом обучающей выборки, в) отдельными проверками на предвзятость уже сгенерированного ответа, и только в крайнем случае г) грамотными промптами. Теоретически, она может проявиться где угодно, и это необязательно будет связано с расовой или религиозной принадлежностью.

Авторы для выявления конкретной предвзятости (пол, раса и т.п.) предлагают криптографический алгоритм (ZKR-algorithm), который по запросу пользователя позволяет показать, есть или нет конкретные данные в обучающей выборке. Идея прекрасная, но для меня это звучит как фантастика. Я убежден, что обучающие данные может раскрывать разработчик, но достать их из модели невозможно. В основе работы LLM (и головного мозга) лежит идея сжатия информации. При таком сжатии потери неизбежны. Не исключено, что предвзятые данные потеряются.

Остальные параметры – стоимость работы ИИ-агента и качество его работы – проверяются сугубо технически. Стоимость определяется разработчиком, а качество – через тестовые датасеты, т.н. бенчмарки. Для юридических задач таких бенчмарков полно: LegalBench, CaseLaw Benchmark.

На этих 3 китах – сведения об обучающей выборке, метриках и стоимости и может строиться конкуренция на маркетплейсе ИИ-агентов. Старые добрые отзывы авторы не рассматривают.

Первоисточник

ИИ в российской науке: исследование ВШЭ

Не могу пройти мимо доклада НИУ ВШЭ про использование ИИ в нашей науке. Акцент был больше на точных и естественных науках, гуманитариев меньшинство (с натяжкой - 6 человек из 30).

Цель доклада - дать общий срез, зачем и как часто ученые используют ИИ. Опросили 30 респондентов, из них 23 используют ИИ (76%). С одной стороны, количество респондентов ничтожно мало, с другой стороны - они все как на подбор с учеными степенями и званиями. Таких сложно найти в большом количестве и опросить.

Выводы исследования интуитивно ожидаемы, никаких открытий для меня не произошло: ИИ используют для поиска и подбора литературы, редактирования текстов, переводов, поиска в интернете. Прошлись по российским моделям - ученые предпочитают иностранные. Сетуют, что ИИ может привести к утрате критического мышления и сумасшедшим потокам некачественных сгенерированных научных исследований.

Я даже начал переживать, что к концу доклада ИИ предложат запретить, но, к счастью, пришли к выводу, что это бессмысленно. Наоборот, предложили сохранить полную свободу использования ИИ.

Меня позабавили и одновременно отклинулись в душе две цитаты из ответов респондентов про ИИ, но на самом деле они и про людей:

Вот сколько ты там ни улучшаешь точность, получаются вот эти 5% [ошибки], которые выливаются потом в 95% твоих проблем в общем-то. То есть все хорошо, а вот 5% губит все примерно.

Мне не нравится тот язык, которым [ИИ] пишет. Как я говорю, как такой бодрый идиот местами. […] Я на него смотрю и понимаю, что там какая-то логика построения предложений настолько для меня неестественная, что я уже не могу редактировать, мне нужно переписывать.

Anthropic существенно прокачали Claude для юристов. Актуально скорее для юристов США и общего права.

Добавили связь с 20+ приложениями, которыми пользуются юристы, включая Harvey, Thomson Reuters.

Также добавили в Claude 12 агентов (ролей): консультант по трудовому праву, корпоративщик, судебник, прайвасист и т.п. Есть даже "студент" (вероятно, за ним надо все вычитывать) и "сотрудник юридической клиники" (тоже надо присматривать внимательно).

Наш ИИ тоже на месте не стоит, нейроюрист от Яндекса работает на базах Гаранта.

ИИ в литигационных практиках юридических фирм США. Часть 2

Сегодня поговорим про другие примеры использования ИИ при работе с делом.

Пример 1: Nixon Peabody LLP (88 место по выручке американских юр.фирм в 2025 г.):

Напомню, в прошлой части юридические команды использовали ИИ, чтобы корректно раскрыть доказательства. Команда пользовалась ИИ, он себя прекрасно показывал, доказательства раскрывались. В этом примере происходит логичное последствие выполнения этой задачи: трибунал обязал команду юристов, которая раскрыла 9 тыс документов, разметить (сгруппировать) их таким образом, чтобы было понятно, на какой именно запрос о раскрытии доказательств данный конкретный документ отвечает. Количество запросов – 30 шт, поэтому и меток 30 под каждый запрос.

Мне понравилась стратегия анализа: сначала попросили модель все разметить, т.е. на каждом документе поставить метку, к какому именно запросу относится документ. Затем по каждому документу у ИИ спрашивали, почему именно эта метка. И уже полученные ответы анализировали вручную. Уверяют, что а) такой анализ был качественный, б) понадобилось всего несколько недель на анализ.

Это, конечно, дольше, чем 3 часа из другого примера , но результат все равно впечатляет.

Пример 2: Quinn Emanuel Urquhart & Sullivan, LLP

В этот раз ИИ использовался для предварительной оценкидела о банкротстве. В модель загрузили 20 тыс. документов по делу о банкротстве от разных участников. Далее работали в двух направлениях:

1. ИИ категоризировал все эти документы на 15 категорий. Это позволило лучше структурировать массив данных.

2. Команда без какого-либо ИИ, на собственной экспертизе, выделила 25 фактов, которые важны для защиты интересов клиента. И попросила ИИ собрать под каждый из этих фактов по 10 документов, которые их подтверждают. Утверждают, что ИИ справился и с этой задачей.

Я мало знаю американский судебный процесс. Говорят, что он очень долгий. Изучение подобных примеров дает частичное объяснение этого. Мне жутко интересно, как так получается, что одна из сторон заявляет 30 (!) заявлений о раскрытии. Допустим, они были сделаны не одновременно. Но отчего так много?

Дальше – больше: другая сторона ничтоже сумнясь на эти заявления предоставила 9 тыс. документов (в прошлом примере – 50 тыс. документов). Вдумайтесь в количество. В нормальной ситуации анализ этих документов – ручной. Сколько человеко-часов занимает такой анализ?

Что касается приведенных примеров, то в каждом из них есть какая-то изюминка, не просто выгрузили все в ИИ и сказали «выиграй мне дело», а заранее проработали задачу в целом и промпты, а потом грамотно организовали ручную проверку. Что ж, добавил в свою копилку эффективного анализа данных.

Первоисточник всех примеров.

Пример 3: Outten & Golden LLP (в рейтингах не нашел, фирма специализируется на защите прав работников и подала 500+ групповых исков):

Фирма сопровождала трудовой спор. Нужно было проанализировать 12,5 тыс. документов. Вероятно, это было групповое производство, иначе мне трудно представить, что это за индивидуальный трудовой спор, где появилась необходимость анализа 12,5 тыс. документов. Может быть, решили проверить все документы, которые подписал работник-сторона спора.

С помощью ИИ удалось выбрать только 484 релевантных документа. Для этого каждый документ был классифицирован по 28 параметрам (тэгам). По этим тегам и отсеивали.

Оставшиеся 484 документа смотрели уже вручную. Результат ручной проверки показал, что 78 документов в выборку попали ошибочно. Значит, есть документы, которые НЕ попали в выборку ошибочно. Чтобы исключить эту ситуацию, оставшиеся 12 тыс. документов (или их части) снова оценили с помощью ИИ, но уже другим промптом, либо вручную (подробнее про elusion testing напишу в другой раз).

Второй раз релевантных документов не нашли и это позволило сказать, что ИИ качественно проверил всю выборку.


Хотя в отзывах и не пишут, позволил ли ИИ выиграть спор, и клиент, и фирма от использования ИИ в любом случае сэкономили сумасшедшие деньги. Примечательно, что фирмы использовали разные стратегии: в примере 1 - ручной труд исключили, а в примерах 2 и 3 настолько уменьшили объем данных, что сделали их доступным и целесообразным с т.з. затрат для дальнейшего анализа.

ИИ в литигационных практиках юридических фирм США. Часть 1

В статье основателей Syllo обратил внимание на отзывы партнеров американских юрфирм, которые использовали ИИ в реальных судебных спорах. Даже если сделать скидку на маркетинговый характер статьи, примеры все равно впечатляют.

Сегодня речь пойдет о задаче анализа огромного числа документов.

Пример 1: Ballard Spahr LLP (89 место по выручке американских юр.фирм в 2025 г.):

В ходе судебного разбирательства клиент фирмы должен был раскрыть доказательства с учетом 30 запросов от оппонентов. Потенциально для запросов были релевантны 100 тысяч (!) документов. Судебная команда фирмы разработала 25 групп параметров, по которым нужно было проверить каждый документ и написала промпт. Утверждают, что потратили на подготовку этих инструкций всего 3 часа.

В результате ИИ отсеял половину. Оставшиеся 50 тыс. документов были раскрыты оппонентам.

Представим себе, что 100 тыс. документов – это одностраничные товарные накладные. По моим приблизительным расчетам для их анализа, да еще и по чек-листу из 25 параметров нужно, чтобы команда из 20 человек 3 месяца, не поднимая головы, их анализировала. Если же документы – нечто более сложное, чем накладная, то затраты умножаются как минимум в 2 раза и так до бесконечности.

Даже если про 3 часа приукрасили и в действительности потратили 200-300 часов + время на выборочную проверки (пусть еще 200 часов), это все равно несопоставимо с ручным трудом. Конечно, фирма потратилась на токены и на вычислительную инфраструктуру. Это необходимо для того, чтобы создать среду для работы ИИ и вручную не загружать по одному документу, не переплачивать за токены, отслеживать поведение ИИ и т.п.

Мне теперь любопытно, а что же делали с 50 тыс. документов, полученных в ответ на запрос о раскрытии – видимо, тоже прогонят документы через ИИ.

Важно, что все эти действия с ИИ одобрил клиент. Еще бы, представляю, какой счет уважаемая фирма могла выставить за такой объем работ.

Пример 2: Quinn Emanuel Urquhart & Sullivan, LLP (в представлении не нуждаются):

Команда фирмы была нанята меньше чем за 2 месяца до суда. Было необходимо отсмотреть 30 тыс. документов клиента и 40 тыс. документов от оппонентов, подготовить отзыв и представить все это в суд.

Стратегия поиска и анализа отличалась от первого примера. Здесь ИИ использовали для того, чтобы классифицировать все документы на 40 категорий и затем изучать наиболее приоритетные. Вероятно, тут без ручного труда не обошлось, но об этом не пишут. Помимо этого, ИИ использовали для подготовки возражений на доводы оппонентов и во время судебного разбирательства для поиска нестыковок в доказательствах.

Про вычисления и дата-центры

Иногда освещаю в канале проблемы вычислительной инфраструктуры для ИИ.
Ранее я писал о том, как влияют дата-центры на окружающую среду и о потенциальных групповых исках.

Первая проблема датацентров - излишнее тепло, которое надо отводить. Тепло появляется потому, что сигналы на кремниевой плате передают электроны. Это проблема не только дата-центров, но и любых вычислений, даже в вашем телефоне. Эти электроны нагревают плату-деталь-сервер-серверные стойки-помещение. Чтобы этот нагрев снизить - используют разные технологии. Предлагают делать дата-центры в космосе, в зоне вечной мерзлоты и других необычных холодных местах. Но в большинстве случаев - это другие системы охлаждения, которые потребляют электроэнергию. И это вторая проблема дата-центров.

Ученые мужи по всему миру (у нас - в Бауманке) с этой проблемой работают как минимум 10 лет, если не дольше. Одно из решений - давайте по плате будут бегать не электроны, а фотоны. Они не нагреваются. Фотоны, как и электроны, двигаются со скоростью света, но на единицу пространства фотонов влезает кратно больше. Отсюда повышение эффективности вычислений в разы. Называется это фотонные вычисления.

Как они решают проблему с потреблением электроэнергии я пока не разобрался. Даже если она никак не решается, устранение первой проблемы с лихвой это компенсирует.

И если последние 10 лет все было на уровне теорий и экспериментов, то вот недавно по всему миру начали появляться стартапы, которые в промышленных масштабах делают фотонные процессоры для вычислений, в т.ч. и для ИИ. Пример.

Некоторые скептики говорят, что пока технология сырая, но я убежден, что через 20-30 лет нас ждет очередная техническая революция в области железа.

Работа с риском конфиденциальности LLM

Сохранение конфиденциальности и взлом LLM - это как щит и меч: бесконечная эволюция. Поэтому нельзя однозначно утверждать, что сейчас сильнее.

Это приводит к тому, что никто не может дать гарантию конфиденциальности при работе с LLM. Из недавнего - оказывается, чтобы сделать backdoor - тропинку, через которую потом можно взломать модель и достать из нее что угодно - достаточно 250 документов. В масштабах обучения LLM - это капля в море, миллионные доли процентов (если не меньше).

Отсутствие гарантии конфиденциальности может быть воспринято как запрет использовать LLM в работе юриста. Но мне такой подход не близок: а где вообще в техническом мире есть что-то гарантированное? Любую базу данных взломают, но тем не менее все продолжают хранить данные не на бумаге, а в цифре.

Поэтому я вижу такой путь: распределение риска конфиденциальности с клиентом и получение его согласия на использование LLM в его проекте. Если спор небольшой / чувстительность документов невысокая - то использование LLM может быть оправдано. Какая польза от этого клиенту? Разумеется, скидка на юридические услуги или меньшие сроки на выполнение поручения.

У LLM есть и другие риски, которые также нужно распределять - риск того, что LLM не даст результата или даст отрицательный результат. Например - LLM среди 10 тыс. документов ничего не нашла (но нашел оппонент и выиграл), или LLM сделала неверные выводы (которые успешно опроверг оппонент). Об их возможном распределении напишу позже.

#обзор_продукта
 
Syllo — это платформа для судебных юристов, созданная с целью ускорения и оптимизации рабочих процессов.
Я бы сказал, что это Case.one от Право.Тех, построенный целиком на ИИ.

Несколько LLM (агенты) делают кучу технической работы – сначала определяют, к какому делу относится документ, затем складывают в нужную папку внутри дела. После этого доступен ИИ-поиск, саммаризация, построение таймлайнов и т.п. Есть даже режим исследования – выделение нужных фактов из всего массива документов на основании промпта. Этот режим можно использовать для сбора цитат из доказательств, обоснования доводов фактами и т.п.

Вряд ли система подходит, когда в работе мало дел, где относительно мало (менее 100) документов. Если же подход «промышленный» (т.е. десятки дел с 1000+ документами каждое) то я буду опасаться риска ошибки. У меня в практике регулярно встречались дела, в которых решающее доказательство (письмо, например), было одностраничное. Если такой документ в ходе сортировки «потеряется» не в той папке по делу – ИИ его просто не увидит. Хотя и человек может его пропустить, я думаю, что пока ИИ-юрист менее внимателен, чем человек.

В то же время, принятие таких рисков неизбежно, иначе потенциал ИИ так и останется незадействованным, работа не ускорится, а конкуренты убегут вперед.

Что же касается анализа большого массива документов – то в соотношении цена/качество ИИ нет равных. В крайнем случае, ручной труд можно использовать уже после ИИ: либо когда он совсем ничего не дал, либо когда он классифицировал документы на несколько типов и ручной труд будет касаться только конкретного типа.

Хотя меня смущает риск ошибок и конфиденциальности, с моей точки зрения – прекрасный продукт, российский лигал-тех движется в этом же направлении, а некоторый функционал Syllo так и вовсе уже давно реализован.

P.S. в сентябре 2025 Syllo привлек 35 млн долл. инвестиций. Для лигал теха, даже для американского, это хороший раунд и он показывает, что инвесторы в него верят.