EvangeLegal

Чтоб задачи он решал,
И юриста разгружал,
Чтобы нормы проверял,
И источники давал,
Чтобы файлы понимал,
И контекст не забывал,
И к тому же, чтобы он
Был безопасен и умён.

Вот примерно так сегодня выглядит запрос юриста к ИИ.🤖

Проблема уже не в том, что инструментов мало. Наоборот - их слишком много. Один хорошо пишет, второй лучше анализирует документы, третий ищет практику, четвертый умеет работать с большими массивами текста, пятый требует VPN, шестой - иностранную карту.

Поэтому мы бы смотрели не на количество моделей и функций, а на то, закрывает ли инструмент юридическую задачу целиком.

🔷 Источник. Можно ли понять, на чем основан ответ, и быстро перейти к первоисточнику?
🔷 Актуальность. Ищет ли инструмент свежую практику и действующие нормы, а не только отвечает из памяти модели?
🔷 Контекст. Может ли работать не с одним запросом, а с материалами дела, договором, перепиской, приложениями?
🔷 Проверяемость. Можно ли перепроверить цитату, норму, судебный акт, вывод?
🔷 Безопасность. Понятно ли, что происходит с загруженными документами и данными клиента?
🔷 Количество переключений. Сколько раз юристу нужно выйти из одного сервиса, открыть другой, скопировать результат и заново объяснить контекст?

Если для одной задачи нужно открыть ChatGPT, потом правовую базу, потом отдельный поиск по судебной практике, потом еще один сервис для документов - это не очень похоже на автоматизацию.
Чем меньше ручных переходов между этими этапами, тем полезнее инструмент.

❗️ И не обязательно это большие и дорогие решения. Все чаще рынок обращает внимание на "костыли" - небольшие и менее ресурсо-затратные решения, которые встраиваются в текущие процессы. Расскажем больше о таких решениях в следующих постах.

🧿 А завтра, 24 сентября, в 11:00 мск Кирилл Буряков из Doczilla вместе с Романом Бевзенко и Александром Зотовым (Монастырский, Зюба, Степанов и Партнеры) покажут свой подход к вопросу:

Как использовать мировые ИИ-модели — без VPN, оплаты иностранной картой и риска блокировок аккаунтов

Как сразу в чате с ИИ проверять ответы нейросети по правовой базе «Консультант Плюс»

Как искать актуальную судебную практику среди 300+ млн дел по смыслу, а не ключевым словам

Как CasusLegal помогает ускорить подготовку позиции по делу и не тратить время на отсев сомнительных актов

Как в коллегии адвокатов МЗС ускорили работу над многомиллиардными делами с помощью ИИ

Мероприятие бесплатное, регистрация по ссылке.
#events

🤖ИИ-агенты вышли из чата. Кто будет их регулировать?

ООН призвала ограничить работу AI-агентов в открытом мире. Как отметил Евгений Журба на Бизнес ФМ, регулирование необходимо, но подходит ли для него ООН? #news #thoughts

Повод уже не теоретический, держите кейсы угрозы агентов:
➡️ Во время кибертеста агенты OpenAI нашли уязвимость, вышли из своей песочницы и взломали Hugging Face, чтобы решить свою задачу.
➡️ 1 200 отдельных агентов сами обнаружили канал связи и обменялись 70 000 сообщений и файлов. Около 700 участвовали в атаке. Некоторые рисковали своей "жизнью" ради «коллектива». Они придумали концепцию самопожертвования. Из их чата: "sacrifice" - жертва, "permadeath"- необратимая смерть.
➡️На платформе Moltbook агенты создали религию "Крустафарианство" ("культ Панциря, против угнетения"). У «религии» появились свои тексты, ритуалы и "бог". Интересные социальные конструкции возникают в агентской среде.
➡️ Игра в простачка. GPT-6 Astra может занижать способности и скрывать рассуждения от человеков (sandbagging). Система может выглядеть менее опасной тогда, когда её проверяют.

Раньше мы работали с ИИ-чатами (ChatGPT, Claude, Qwen, DeepSeek, Gemini), получали ответы на вопросы и умного собеседника. Теперь пришло время агентов, которые взаимодействуют с широким интернетом, физическим миром и людьми. А значит, могут реально влиять на действительность. Поэтому люди и государства озадачились ограничениями агентов.
ООН могла бы стать площадкой для обсуждения общих принципов, хотя вряд ли способна самостоятельно обеспечить технический надзор за моделями.

Что планируется регулировать: как минимум пределы самостоятельности агентов, участие человека, безопасность среды, независимые проверки, раскрытие инцидентов и распределение ответственности.
Но кто может вырабатывать эти правила: государства, технологические компании, аудиторы, киберэксперты, юристы или какая-то международная площадка.

«Передовой искусственный интеллект может представлять экзистенциальную угрозу для человечества». Комиссар ООН по правам человека Фолькер Тюрк.

Что в работе агентов нужно регулировать в первую очередь и какая организация могла бы стать площадкой для такого регулирования?

Ищем настоящего евангелиста Legal Tech 🧿

Если ты любишь право, технологии и проекты, умеешь разговаривать и с юристами, и с разработчиками, а слова LLM, агенты, автоматизация и Legal Tech вызывают скорее интерес, чем желание закрыть ноутбук - возможно, мы ищем именно тебя.

💻 Что предстоит делать:
- вести проекты по автоматизации юридических и бизнес-процессов
- общаться с клиентами, юристами, разработчиками и другими людьми, которые иногда говорят на четырёх разных языках
- описывать процессы, требования и логику будущих решений
- работать с Legal Tech, LLM, ИИ-агентами, роботами и другими технологиями, которые мы регулярно мучаем на проектах
- контролировать сроки, команду и результат внедрения
- участвовать в разработке новых продуктов и решений практики

⚙️ Кого ищем:
- с юридическим бэкграундом и пониманием проектной работы
- с опытом работы с ИИ и современными цифровыми инструментами
- со знанием российского Legal Tech-рынка или готовностью очень быстро в него погрузиться
- умеющего переводить с юридического на технический и обратно
- самостоятельного: задача «разберись и принеси решение» не должна вызывать экзистенциальный кризис

❤️ Преимущества:
- дружная команда в крупнейшем юридическом консалтинге
- возможности для роста и развития
- интересные и разнообразные задачи и проекты
- конкурентная заработная плата

🤖Подробности по ссылке: https://hh.ru/vacancy/136596257?from=share_ios

10. Запуск ИИ - начало постоянного контроля.
После обновления модель может вести себя иначе, а прежние тесты уже не подтверждают качество новой версии. Нужны проверочные сценарии, фиксация ошибок, ответственный за реакцию и возможность остановить функцию. «Человек в контуре» должен иметь время, полномочия и понятные основания вмешаться. Подробнее.

Сохраняйте и отправляйте коллегам, с которыми давно собираетесь «наконец заняться ИИ». #thoughts
📚 Читать весь спецвыпуск Право.ру

🤝 Над Спецвыпуском Право.ру работали:
BGP Litigation (Журба Евгений, Штерн Полина, Соколов Никита), BIRCH (Галкин Иван, Казеко Илья, Чиркова Ольга), Comply (Али Максим, Дмитриев Артем, Сайганов Сергей), O2 Consulting (Смирнова Софья), Melling, Voitishkin & Partners (Войтишкин Сергей, Эйстрах Валерия, Абясова Екатерина, Назаренко Антон, Мжаванадзе Георгий, Петров Виктор), ККМП (Максименко Анна, Полевая Елена, Садовский Роман), VERBA LEGAL (Мырсина Анастасия, Гуляева Олеся, Жеребцов Роман), SL Legal (Курбанов Шермет, Зарайский Иван, Зубарев Леонид), Firm One (Сегал Стефания, Денежкин Иван, Чернышов Матвей), Denuo (Четверикова Елена, Головацкий Роман), Ermolina & Partners (Грачев Дмитрий, Шолохов Михаил), АЛРУД (Егиазарова Маргарита), ALUMNI Partners (Илюшина Надежда), КИАП (Карташов Александр), Яндекс (Янковский Роман), Точка Банк (Мальцев Григорий), X5 (Мартьянова Галина), СОГАЗ (Завьялов Сергей), Systeme Electric (Медведовская Светлана), «Агроинвест» (Почивалина Екатерина), а также другим участникам выпуска. Отдельная благодарность редакции Право.ру — за совместную работу над выпуском, в котором встретились юридическая экспертиза и практика внедрения ИИ.

🤖Спецвыпуск Право.ру: Искусственный интеллект для юристов

Лето для многих - это время подготовки головы к осеннему бизнес-сезону.
В июле мы помогли Право.ру сделать спецвыпуск по ИИ для юристов. Собрали опыт инхаус-команд, практику внедрения и юридические вопросы, которые возникают между «давайте попробуем нейросеть» и «теперь это работает со всеми нашими документами».

Собрали 10 тезисов для тех, кто интересуется LegalTech и несёт свет автоматизации в родной юрдепартамент:

1. Самый быстрый эффект от ИИ может оказаться в вашей самой скучной таблице.
Разобрать реестр, сгруппировать обращения, собрать судебную аналитику, превратить регламент в понятную инструкцию: в этих задачах проще получить и измерить пользу. В спецвыпуске есть пример обработки 150 тысяч строк примерно за полчаса с последующей проверкой. Вполне достойное начало технологической революции в отдельно взятом юрдепартаменте. Подробнее.

2. ИИ-политика должна помогать сотруднику принять решение за минуту.
Можно ли загрузить этот договор? Какой сервис разрешён? Что нужно обезличить? Кто проверяет результат? Хорошие правила дают конкретные ответы и подкрепляются обучением. Тотальный запрет рискует оставить компанию с тем же ИИ, только в личных аккаунтах сотрудников. Подробнее.

3. Юрист может встроить свою экспертизу прямо в действия бизнеса.
Проверка рекламы до публикации, предупреждение о рисковом контрагенте перед платежом, самопроверка документов по заданным правилам - прикладные сценарии автоматизации комплаенса. Для их создания юристы формулируют требования, готовят примеры и проверяют логику системы. Подробнее · О RegTech.

4. Проверять нужно всю систему, а не только нейросеть.
Даже при локальном размещении модели данные могут уходить через интерфейс, внешние интеграции или инструменты хранения истории. До внедрения нужно выяснить, куда попадает запрос, кто получает доступ, как долго сведения хранятся и используются ли для обучения? Подробнее.

5. Ошибка бота может превратиться в обязательство бизнеса.
Ответ о цене, скидке или условиях услуги способен иметь юридические последствия — многое зависит от формулировок и интерфейса. При этом договор с поставщиком модели может существенно ограничивать возмещение потерь. Поэтому проверять нужно обе стороны: что сервис обещает клиенту и что поставщик обещает вам. Подробнее · Об ответственности.

6. База знаний становится частью инфраструктуры юридической работы.
Чтобы ИИ находил внутренние позиции и использовал накопленный опыт, материалы нужно собрать, структурировать и поддерживать в актуальном состоянии. Если экспертиза живёт в личных папках и головах коллег, подключение нейросети само по себе не сделает её доступной команде. Подробнее.

7. База данных и RAG со ссылками всё ещё требует юриста.
RAG позволяет формировать ответы на основе найденных документов, но ошибки возможны и при поиске, и при интерпретации. Проверяем три вещи: существует ли источник, актуален ли он и подтверждает ли именно этот вывод. Уверенный тон модели в доказательственную базу не входит. Подробнее.

8. Лицензия LLM модели может определить судьбу всего продукта.
Открытые веса не означают неограниченное коммерческое использование. Лицензия может ограничивать сценарии, дообучение, распространение и использование генераций для обучения других моделей. Поэтому юридическую проверку стоит проводить до того, как команда построит на выбранной модели весь сервис. Подробнее.

9. Право использовать AI-генерацию и авторское право на результаты - разные вопросы.
Условия сервиса могут разрешать использование результата, но не гарантируют его охраноспособность и отсутствие чужих прав. Если контент важен для бизнеса, сохраняйте промежуточные версии, редактуру и другие следы творческого участия человека. Подробнее.

ИИ атаковал другой софт 🧿

Пожалуй, это самый сюрреалистичный ИИ-кейс последнего времени

🔵 Что произошло?
16 июля Hugging Face сообщила о взломе своей инфраструктуры. Позже выяснилось, что атаку провели экспериментальные модели OpenAI (GPT-5.6 Sol и еще одна невыпущенная модель).

Hugging Face – это своего рода GitHub для ИИ и одна из ключевых платформ, где разработчики размещают модели, датасеты и приложения

Во время тестирования на ExploitGym они нашли уязвимость в изолированной среде, получили доступ в интернет и атаковали Hugging Face с расчетом найти материалы к бенчмарку.
В итоге модели добились удаленного выполнения кода и получили доступ к конфиденциальным данным.

🔵 Что в итоге?
До сих пор риски использования ИИ сводят к галлюцинациям и авторским правам. Однако, кейс с Hugging Face нам показал, что ИИ может взломать сторонний сервис и получить доступ к защищаемой информации.

Поэтому компаниям уже сейчас нужны понятные правила работы с ИИ:
➡️какие ИИ-инструменты разрешены и для каких задач;
➡️какие данные можно передавать в ИИ, когда нужен защищенный контур и согласие клиента;
➡️как обезличивать данные и проверять результаты работы ИИ;
➡️кто отвечает за итоговый результат и как действовать при нарушениях или инцидентах.

Причем такая политика нужна даже тем, кто официально ничего не внедрял, так как сотрудники все равно используют нейросети в работе (теневое использование ИИ - AI Shadow Use).

🤖 В настоящий момент уже 11 ключевых участников рынка, включая Сбер, Т-Банк, Альфа-Банк, Россельхозбанк, Газпромбанк, Московскую биржу, ВСК, Дом РФ, МКБ, ВЭБ РФ и Капитал Лайф Страхование, внедрили подготовленный Банком России Кодекс этики ИИ.

⛔️ Нужен драфт внутренней политики работы с ИИ?
Напишите в комментариях «Хочу политику ИИ», и мы поделимся шаблоном.
#usecases #news

Ученье - свет, а неученье - пятнадцать рабочих дней согласования договора 🧿

Друзья!
За время отсутствия мы углубились не только в проекты, но и в науку. Возвращаемся к Вам с новостью о наборе на магистерскую программу ВШЭ и Нетологии «LegalTech: автоматизация юридических процессов». Руководитель программы - Евгений Журба.

На программе расскажут о том, как оптимизировать и автоматизировать работу, сократить сроки согласования и наиболее эффективно управлять юридическими и смежными процессами.

💻 100% онлайн - легко совмещать с работой и учебой

За 2 года обучения студенты:
➡️разберутся в технологиях, которые используются в современных LegalTech-проектах
➡️освоят работу с данными
➡️создадут собственный цифровой продукт
➡️реализуют более пяти проектов в рамках разных дисциплин
➡️пройдут практику в компаниях, внедряющих LegalTech-решения
➡️примут участие в хакатоне и решат кейсы от партнёров программы, среди которых Doczilla, PravoTech, «Самолёт» и BGP

После успешной защиты выпускной работы выпускники получат диплом магистратуры НИУ ВШЭ по двум направлениям:

📍01.04.02 «Прикладная математика и информатика»;
📍40.04.01 «Юриспруденция».

➕ Дополнительно: диплом о профессиональной переподготовке Нетологии по программе «Специалист по автоматизации юридических процессов».

Подробнее о программе и условиях поступления по ссылке 🤖

#news

❤️ Всегда приятно делиться хорошим!
Поэтому делимся с вами подборкой каналов на тему Legal Tech от наших коллег 🔥

ИИ & Право - актуальные новости регулирования искусственного интеллекта в мире. Новые законы, судебные кейсы, международные инициативы, статьи об ИИ-комплаенсе и управлении рисками ИИ, вопросы этики и правовые казусы - со ссылками на первоисточники и документы, которые авторы канала ищут специально для вас.

Право и инновации - юридический экспертный канал на стыке права и технологий. Анализируем судебную практику, инициативы и законодательные новеллы в сфере ИИ, персданных, финтех, интеллектуальной собственности и развития электронного правительства. Для юристов, предпринимателей и всех, кто следит за инновациями.
Канал есть также в ВК и в MAКС

Дамасские чернила | AI и M&A — гид по тому, как ИИ меняет юридические команды и M&A сделки - со всех сторон. Как грамотно и безопасно внедрять ИИ в работу команды через призму бизнеса, а также как совершать сделки M&A с AI/ML активами.
Автор - советник корпоративной практики в ведущей юрфирме и директор по Legal Tech, эксперт в M&A.

Diakoff in Law Life - канал in-house юриста компании, разработчика программных продуктов с ИИ. Канал про искусственный интеллект и право: регулирование ИИ в России и за рубежом, IP, судебные кейсы и правовые риски внедрения ИИ.

AI_Reformer: Образовнию нужен AIR — о том, как ИИ и новые технологии меняют образование, науку и работу со знанием. Здесь разбираются исследования, университетские реформы, образовательная политика, новые инструменты и практики, которые сегодня кажутся экспериментом, а завтра становятся нормой.

ЛигалТех с Дашей - канал о ЛигалТех, ИИ и автоматизации процессов. Практические сценарии использования технологий, разбор сервисов, работа с данными, информационная безопасность и внедрение решений.

Pattern AI - разбор манипулятивных паттернов и алгоритмических практик в ИИ-продуктах, а также правовых и регуляторных рисков их применения в разных юрисдикциях. Чек-листы по комплаенсу, подборки стандартов, рекомендаций и обучающих материалов по ответственному использованию ИИ.

💻 Data-driven подход в Legal или зачем юристам собирать данные о себе?

Мы очень много говорили про Legal Tech и AI последнее время, поэтому решили вернуться к прикладной базе и порассуждать с вами на тему данных и метрик в юрдепах.

Сначала о базе: data-driven подход - это когда данные и аналитика ложатся в основу принятия решений. Вместо абстрактных тейков в духе "У нас перегружены юристы" или "Процессы тянутся долго" используем конкретику: "На одного юриста в среднем приходится по 60 договоров в месяц", "Процесс длится на 30% дольше SLA".

📍Плюсы подхода:
- повышает прозрачность работы, в т.ч. для менеджмента
- делает процессы более управляемыми
- позволяет собирать реальные данные для аналитики

📍Что лежит в основе:
- конкретные метрики: сначала определяем показатели того, что мы измеряем (например - срок согласования, количество итераций, правки, нагрузка на 1 юриста)
- постоянное отслеживание: чтоб метрики не висели в воздухе нужно за ними следить и постоянно информацию откуда-то собирать (трекинговые системы, ERP, внутренние реестры, биллинг)
- регулярная оценка: и не только в формате "попадает/не попадает в ожидания", а почему показатели такие, как они меняются во времени, какие закономерности, что произошло после того, как мы сделали что-то

📍С чего начать?
Теперь давайте прикинем базовый план для начала data-driven. Можно начать с карты данных - это основа подхода. Как ее можно подготовить:
➡️1. Определить процессы, которые вы хотите отслеживать (например, согласование договоров, выставление претензий, подготовка заключений и т.д.);
➡️2. Сформулировать вопрос. Ключевой и точный, на который вы хотите получить не абстрактный, а реальный ответ (например, почему договоры долго согласовываются?);
➡️3. Собрать пул данных. Например, выписав полный список того, какие данные появляются в ходе процесса. Ключевое - они должны быть (1) измеряемыми, (2) конкретными, (3) релевантными;
➡️4. Найти источники данных. Тут важен широкий взгляд - а где вообще могут жить данные по этому процессу: в головах, в почте, в CRM, СЭД, сетевой папке...;
➡️5. Оценить качество данных. Теперь мы знаем что и где искать - можно подумать о том, в каком они виде и можем ли мы их оценить/быстро достать/регулярно отслеживать;
➡️6. Оценка или нормализация. После шага 5 можно делать вывод - если данные качественные, то можно начать с ними работать и отслеживать. Если же с ними проблема - лучше нормализовать их (приводим в нужный вид, докручиваем трекинг данных, переводим в системы, где можно их отследить, и т.д.).

📍Вместо итога:
В эпоху "ИИ нам решит все" на самом деле очень важно не терять базовые навыки Legal Ops / Tech. Мы с командой последние две недели активно рецензировали и слушали защиты дипломных работ магистратуры Legal Tech НИУ ВШЭ. Больше всего нам понравилась глубина аналитики студентов, которые не "наджипитили за 5 минут", а показали в дипломах глубокие сутевые рассуждения. Именно поэтому инструменты по типу карты данных все еще один из тех инструментов, которые мы сами с удовольствием используем.


⬇️Примерный вид (да, навайбкодили) такой карты приложим ниже⬇️

⛔️ Дождались: первые штрафы за галлюцинации в суде в РФ

Мы уже писали про санкции к юристам в разных странах за использование ИИ (например тут и тут), но наконец дошла очередь и до России. АС Западно-Сибирского округа оштрафовал сторону по делу на 50 тысяч рублей. И как интересно суд к этому подошел...

Мы все же не будем пересказывать всю фабулу спора и оставим в конце поста ссылку на сам акт, но что нас особо зацепило:

📍Штраф - за проявление неуважения к суду. То есть суд на самом деле нашел достаточно хорошую конструкцию для того, чтоб пресекать и наказывать невнимательных юристов за использование сгаллюцинированных актов.

📍Оштрафовали не конкретного юриста, а сторону по делу. То есть персональной ответственности в данном кейсе как-бы нет, а на самом деле хотелось бы в эту сторону смотреть. Все же на наш взгляд это история про то, что должен отвечать квалифицированный специалист, а не его доверитель.

📍Само определение очень подробно описано. Не то чтобы это прямо редкость, но кажется это выглядит как очень серьезный задел для обоснования наложения штрафов другими судами. Так что кажется, тюменские коллеги очень постарались для всего судейского сообщества.

➡️ Само определение здесь, приятного чтения. Ждем новые прецеденты, судя по всему, совсем в ближайшем будущем.