О юридическом языке и суде присяжных, или реальная опасность ИИ

Сначала новости - несколько дня назад сайт Hugging Face (главный сайт-склад всего, что связано с ИИ) подвергся беспрецедентной хакерской атаке, которая от начала и до конца была проведена ИИ-агентом. Само по себе это знаковое явление, о котором нас давно предупреждали не только эксперты, но и просто все думающие люди - но оказалось, что всё гораздо страшнее.

Однако давайте начнём заново, как и обещал - про язык юристов и суд присяжных. Я часто встречал в этих ваших интернертах мнение, что юристы специально выдумали себе язык, чтобы простой человек не мог разобраться что там такое понаписано и на этом зарабатывали. Мнение это соблазнительное, но неверное.

Как бы это объяснить попроще? Наш язык должен быть точным, поэтому в нём должны быть определены понятия, которые регулярно тождественно истолковываются в разных областях - именно поэтому когда я писал часть закона по ИИ для штата Огайо, надо было пользоваться теми же понятиями, которые уже есть в законах по контролю за фармакологическими компаниями.

Программисты поймут - юридический язык это объяктно-ориентированный язык, в котором есть разные классы, объекты, наследования и так далее, с прописанными функциями и опенсорс библиотеками, поэтому он сложный для чтения.

Однако есть ситуации, когда юрист вынужден говорить на простом и понятно языке, как я сейчас - и одна из них это обращение (устное или письменное) к суду присяжных. Это особый талант - объяснить людям что-то сложное так, чтобы они это поняли, Дик Файнман точно был бы хорошим юристом. Как сказал мне Офир Менчель, самый умный адвокат, которого я встречал за всю свою жизнь - я всего лишь умею убеждать судей.

В моей жизни было несколько моментов, когда прочитанное поднимало бурю в моей душе, и эти моменты запомнились навсегда. Помню, как лет в 13 блевал от Шолом-Алейхема - читал Мальчик Мотл (мне хорошо - я сирота) и смеялся два часа подряд пока меня не вырвало. Помню, как читал книгу лекций о буддизме, которые Чогьям Трунгпа читал в американских университетах, и как меня торкнуло понимание того, что буддизм вообще не религия, а просто истина.

Ещё я помню то ощущение как будто ударили по мозгу изнутри войлочной кувалдой, когда прочитал последнюю страницу Литумы в Андах, и несколько недель после того, как закончил The Honorable Schoolboy, когда ходил и постоянно прокручивал в голове альтернативную концовку - тут можно и не спойлерить, вы видели хороший конец в хоть одной книге Ле Карре?

И ещё один раз у меня такое случилось, когда я сидел в компьютерном классе своего юрфака, где я проводил практически всё свободное от курения травы на дюнах и исследования тамошней фауны - и наткнулся на антимонопольный иск AMD против Intel, а точнее на прошение адвокатов о слушании дела перед жюри присяжных. Помню, сижу я читаю и начинаю дрожать и плакать, настолько меня поразило мастерство адвокатов, умудрившихся настолько чотко и ясно объяснить достаточно сложные вещи (CPU и антимонопольное право) так, чтобы это понял любой тупой двоечник.

Присяжные - это очень интересная система. Присяжные не должны разбираться в юриспруденции - этим занимается судья, который ведёт суд, а присяжные должны дать один ответ - верю или не верю. И искусство объяснить людям, что же произошло на самом деле (как я говорю клиентам на подготовке к допросу в полиции - не надо мне ничего рассказывать, сейчас я сам тебе расскажу как всё было на самом деле) - это невероятно сложное и крутое мастерство.

Теперь попытаюсь им воспользоваться - ибо вы, мои дорогие читатели, и есть мои присяжные, за отсутствием таковых в Израиле по вполне понятным причинам. Вернёмся же к инциденту с Hugging Face, и давайте я попробую вам объяснить, насколько это опасное происшествие и почему it's the end of the world as we know it.

👇👇👇