ИИ в зале суда: правила игры

В прошлом посте мы говорили о том, как правительства тестируют ИИ для оперативной поддержки законотворчества, судопроизводства, публичной вовлечённости. Но хороший пилот- это только полдела, ведь ИИ начинает влиять на реальные дела, и на кону становится уже справедливость решений.

Главные риски:
– непрозрачность моделей;
– предвзятость данных;
– потеря ответственности («это всё алгоритм!»);
– кибербезопасность;
– зависимость от чужого ПО.

Из-за быстрой скорости развития ИИ "правила игры" устанавливаются с помощью практических рекомендаций для регуляторов, судов, юристов. Вот лишь некоторые примеры:
🔹США
Formal Opinion 512, American Bar Association (29 июля 2024)

- обязанность юриста понимать возможности и ограничения инструментов ИИ, в том числе его риски и склонность к "галлюцинациям", проверка всех результатов ИИ является обязательной перед использованием.;
- необходимость защиты конфиденциальности клиентов при использовании ИИ;
- необходимость прозрачности и раскрытия информации об использовании ИИ клиентам;
- ответственность юриста за надзор за использованием ИИ сотрудниками;
- этические последствия взимания платы за услуги, предоставляемые c помощью ИИ.

An Introduction to Artificial Intelligence for Federal Judges| James E. Baker, Laurie N. Hobart, Matthew Mittelsteadt
Полноценный гайд + список судебных кейсов, связанных с ИИ!
🔹Сингапур
The Guide on the Use of Generative Artificial Intelligence Tools by Court Users (Сингапур)

- вы полностью отвечаете за содержание документов;
- используйте ИИ-вывод только после проверки (точность, релевантность, отсутствие нарушения авторских прав);
- нельзя с помощью ИИ создавать, подделывать или изменять доказательства.
- подтверждайте существование и корректность цитат, законов и судебных дел из надёжных источников;
- адаптируйте ИИ-текст под свой случай, вычитывайте и исправляйте ошибки;
- не разглашайте личные или защищённые данные при работе с ИИ;
- указывайте авторов и источники заимствованных материалов;
- будьте готовы сообщить, что использовали ИИ, и описать, как проверяли результат.
- риски несоблюдения: штрафы, исключение документов из дела, дисциплинарные меры, ответственность по закону.

🔹Канада
-Use of AI by Courts to Enhance Court Operations| Action Committee;
- Guidelines for the Use of Artificial Intelligence in Canadian Courts
- Use of artificial intelligence (AI) in Tribunal proceedings;
- Use of AI in proceedings before the Trademarks Opposition Board

Даны документов, которые считаются содержащими/ не содержащими контент, созданный ИИ и пример заявления:
Artificial intelligence (AI) was used to generate content in this document. All content generated by AI, and the authenticity of all authorities cited in this document, has been reviewed and verified by the [include the name of the party to the proceeding], or their trademark agent.

🔹Австралия
Хороший обзор дан в статье AI and the Courts in 2025

"Суд стремится получить информацию об «ответственном использовании новых технологий таким образом, чтобы это способствовало справедливому и эффективному выполнению работы Суда"

Guidelines for litigants: responsible use of artificial intelligence in litigation

Общие правила, которые встречаются почти везде:
▪️ фиксировать, где и как применялся ИИ;
▪️защита данных;
▪️обязательная проверка человеком;
▪️вести публичные реестры ИИ-инструментов;
▪️проводить аудит моделей;
▪️запрет генерации экспертных заключений и подделки доказательств;
▪️уведомлять об использовании ИИ;
▪️соблюдать авторское право
▪️и проверять источники.

В следующем посте рассмотрим кейсы, когда ИИ в судах сыграл "злую шутку"
#LawAndDisorder
————
@pattern_ai