Robocounsel

Верховный суд мотивирует судей меньше думать?

Коллеги бурно обсуждают "пасхалку" в новой концепции внедрения ИИ в судопроизводство: судья, не согласный с рекомендацией ИИ, обязан обосновать своё несогласие.

Я подумал, что это шутка, так как во всём мире это считается предельным злом, которого необходимо избегать (в академической литературе automation bias, а в поп-культуре - известные британские скетчи "Computer says no".

Но нет, это реально предлагаемая норма, причём позиционирующаяся как мера защиты независимости и инициативности судей.

Но ведь эффект противоположный: правило "обоснуй, если не согласен с ИИ" создаёт асимметрию издержек:
- судья, принимающий рекомендацию ИИ, не совершает дополнительных действий;
- судья, отклоняющий рекомендацию, обязан составить мотивировку.

При такой асимметрии судье намного легче принять рекомендацию, чем её отклонить. Азы поведенческой психологии.

И прямо противоречит остальным принципам и идеям концепции, которые вполне разумны.

Не говоря о том, что сегодняшний генеративный ИИ, который нынче пытаются повсюду внедрять, не умеет размышлять, это лишь инструмент статистического предсказания текста. Только человек-эксперт, как мыслящий субъект, может судить, годен ли сгенерированный ИИ текст для чего-либо, требует доработки или является полной околесицей. Мыслящий субъект не должен оправдываться перед немыслящим объектом.

Тот, кто записал подобное в концепцию ВС РФ, плохо подумал. Подумайте ещё раз, пожалуйста, и вычеркните эту глупость.

Настаиваю: требовать согласовывать отклонение от ИИ-рекомендации с зампредом — всё равно что требовать от хозяина собаки мотивировать участковому, почему собаке нужно к ветеринару, даже когда собака этого не хочет.

Спасибо за внимание.

P.S. если у вас есть контакты в ВС РФ — перешлите им, пожалуйста.

Анти-ИИ настроения: временный тренд или что-то устойчивое?

Проф. Гуадамуз с короткой заметкой на эту тему.

Обязательно читайте до конца + первый анонимный комментарий к заметке – рассматривающий проблематику под другим углом.

В этой шутке лишь доля шутки.

Типичные технобро — все в левом круге и не пересекаются с правым. Им всегда мешает законодательство, даже когда оно вообще не мешает.

Британское законодательство заменить законодательством иной любой страны по вкусу.

Поделюсь свежим опытом с реальных проектов по имплементации AI Governance этим летом.

Вход только для моих платных подписчиков.

Подписаться и зарегистрироваться можно здесь.

Регулирование ИИ в ЕС: интерес растёт

Тот момент, когда данные члена совета директоров на моём тренинге по AI Governance у клиента кажутся смутно знакомыми, ты уже после сессии проверяешь, понимаешь, что у него имя и фамилия бывшего премьера одной из стран СНГ, проверяешь на Линкдине, а это он и есть...

Значит — всё правильно делаю.

Присоединяйтесь к следующему потоку открытого курса в сентябре: свежие обобщённые инсайты из моих клиентских проектов гарантированы, времени для записи на курс осталось не много.

Коротко о курсе здесь, детали и регистрация здесь. Для регистрирующихся сегодня сделаю скидку по промокоду — если интересно, пишите в комментариях (скидка превращается в тыкву в полночь).

Добил французскую иммиграционную бюрократию

Это было непросто. Кто-то из вас помнит, как всё начиналось: в 2021 году я приехал на секондмент в Совет Европы как эксперт от Российской Федерации, работать в секретариате, помогать Совету по цифровой повестке, и в особенности в связи с запланированной разработкой Ковенции по ИИ.

После того, как в 2022 году всех россиян в связи с известными событиями попросили из Совета Европы, я принял решение тем не менее остаться в Страсбурге, так как к этому времени уже многие годы специализировался именно на цифровом праве ЕС.

Поэтому с карьерной точки зрения наиболее логично было бы оставаться либо в Страсбурге, либо в Брюсселе.

Но въезжал я на территорию Франции как сотрудник международной организации, это специфический статус, и курирует таких мигрантов МИД Франции. Мигрантов же классических курирует МВД, а внутри него — префектуры регионов. Нужно было переходить из одной системы в другую, и это оказалось сложно.

Сначала моё заявление в префектуре вообще толком не рассмотрели и потребовали самовыдвориться. Я не согласился, и через административный трибунал доказал, что префектура допустила явную ошибку, не изучив моё досье. Трибунал постановил отменить незаконное решение префектуры и оставить меня во Франции, но не указал, в каком статусе.

Префектура решила, что это будет самый экономически бесправный статус – визитёр.

Я собрал новое досье с доказательствами своей бизнес-компетентности и бизнес-планом, одобренным профильным региональным госорганом.

Обычно рассмотрение подобных досье по опыту других знакомых мне россиян, оставшихся тут и сформулировавших бизнес-план, занимает полгода, в моём случае оно длилось полтора года, и вот после очередных стимулирующих писем моего адвоката в адрес префектуры они разродились наконец положительным решением о перемене иммиграционного статуса с ущербного на полноценный для самозанятых.

Очень рад, что это всё наконец закончилось.

Завершается регистрация на 9-й поток курса по ИИ Акту ЕС

Последний в этом академическом году.

Если вы присоединились к каналу недавно и не знаете, насколько у нас всё круто, напомню.

От двух-трёх слушателей потоков этого года скоро, возможно, увидите статьи про различные аспекты проблематики, которую мы разбираем на курсе.

Как мощны мои лапищи Серьёзно, мощный продукт получился. Конкурентов в моей нише по качеству материала и уровню слушателей, пожалуй, просто нет.

Регистрация: aia.tiulkanov.info

Поправки в ИИ Акт ЕС: на чём остановились?

Подведём итоги на вебинаре в эту пятницу 29 мая, в 17:00 по Парижу / 18:00 по Москве.

Регистрация обязательна.

Почему технобро не любят GDPR

На прошлой неделе мы отметили десятилетие GDPR.

Наиболее бесцеремонные из технобратии постоянно жалуются на этот Регламент и законодательство о персональных данных в целом: это всё только мешает.

Поправка: мешает лично им, набивать карманы без каких-то либо ограничений. Нам, обществу — только помогает. Помогает не скатиться в тот анархо-капиталистический ад, о котором так мечтают Ларри Эллисоны, Илоны Маски и прочая безбашенная часть технобратии.

Предприниматели – очень важная часть общества. Без них в современном обществе невозможно. Я сам предприниматель.

Но одно дело быть предпринимателем и делать свой посильный вклад в построение капитализма с человеческим лицом. И другое – нести тот бред, который нёс Ларри (видео 2024 года, когда он обсуждал ИИ-стратегию Oracle).

Общий регламент ЕС по защите данных не идеален, но это лучшее, что есть в этой области.

Спасибо Ларри, что напомнил нам, зачем нам нужно законодательство с крупными оборотными штрафами, сильные органы по защите данных и справедливый независимый суд.

Избегайте публикации фото, по которым можно считать отпечатки

Исследователи из Танзании проанализировали практики пользователей социальных сетей и выявили три наиболее типичных жеста, в том числе на селфи, которые позволят злоумышленникам извлечь ваши биометрические данные и потенциально получить доступ к ресурсам и устройствам, которые верифицируют вас по отпечаткам пальцев.

Чем больше пальцев на фото — тем выше риск.

Предупредите близких.

P.S. Девушка ненастоящая, в отличие от рисков

ФАС ЗСО: ИИ – ваш инструмент, конечный результат – ваша ответственность

Настя тут правильно обращает внимание на штраф за очередные галлюцинации в поданном в суд документе.

Сразу вспоминаются некоторые коллеги в уже далёких поздних 2010-х спорившие со мной по поводу "кто же будет отвечать за ошибки искусственного интеллекта, это же очень сложный и неоднозначный правовой вопрос".

Говорил уже тогда: вопрос несложный, вопрос тривиальный. Несерьёзный, если хотите.

Каждый, каждый юрист должен это знать. А если вы судья, делайте как коллеги из ФАС ЗСО.

Ссылаются представители, что их подвёл ИИ, забыли о своей деонтологической обязанности и личной ответственности за конечный результат — документ, представляемый суду?

Штраф за неуважение. Все здоровее будем.

Предвзятость решения, принятого ЛЛМ, можно доказать только статистически, не индивидуально

Об этом в интервью WIRED поведал Ши Браун, один из ведущих в мире экспертов по техническому аудиту ИИ-систем, рассказывая о наиболее популярной на сегодня архитектуре (большие языковые модели, LLM).

Объективно ответить на вопрос, занижает ли, например, такая система оценку определённым кандидатам, можно дать лишь в целом по группе, в разрезе определённого признака (например, инвалидность).

Дать же ответ, было ли предвзятым конкретное решение ЛЛМ-системы, и установить его причины, принципиально невозможно. На сегодня это техническое, архитектурное ограничение.

Нидерландская компания оштрафована на 100 млн. евро за передачу данных в Россию

Нидерландский орган по защите персональных данных вынес такое решение в отношении MLU BV, нидерландского правопреемника Ridetech, оказывавшего услуги такси в Финляндии и Норвегии под брендом и в приложении Yango (ранее относившегося к Яндексу).

По данным собственного отчёта Ridetech об оценке последствий трансграничной передачи персональных данных (transfer impact assessment), передача этих данных в Россию была сопряжена с риском произвольного доступа к данным со стороны российских властей.

Нидерландские коллеги не считают Роскомнадзор независимым органом по защите прав субъектов персональных данных по смыслу европейского законодательства, поскольку в полномочия Роскомнадзора одновременно входят и задачи, концептуально конфликтующие с защитой прав граждан, такие как борьба с терроризмом ("закон Яровой").

Орган, уполномоченный на надзор одновременно за двумя этими одинаково важными, но противоположно направленными государственными задачами, обречён на конфликт интересов, и поэтому не может считаться беспристрастно защищающим права граждан.

Кроме того, Роскомнадзор подчинен Минцифры, что также лишает его претензий на независимость.

А в ситуации отсутствия независимого органа под надзору в юрисдикции получателя персональных данных трансграничная передача в эту юрисдикцию данных из ЕС на основании стандартных договорных оговорок (SCCs) незаконна, так как не предоставляет субъектам из ЕС необходимых гарантий защиты их прав.

Шесть лёгких способов подпасть под действие Регламента ЕС по ИИ

Компактная версия на картинке, чуть более развёрнутая — здесь.

Как ИИ-агенты регулируются правом ЕС

Новый пре-принт только что опубликован, я в соавторах:
"AI Agents Under EU Law: A Compliance Architecture for AI Providers."

Рассказываю, чем статья полезна и интересна, и что в ней можно считать спайси.

Кто за что отвечает в контексте рисков для приватности и защиты персональных данных?

Часто возникает путаница: за что отвечает DPO, за что юрист, а за что бизнес. По-хорошему процесс управления этими рисками, роли и задачи должны выглядеть так.

ИИ-редактор текста Телеграма приватен не более, чем сам Телеграм

Казалось бы очевидно, но маркетинг Телеграма такой маркетинг, что в погоне за ростом аудитории допускают явное враньё в анонсах.

Разбор в иллюстрации.

Дуров, обрати внимание, s'il te plaît.

Приватность не мертва, просто в цифре по умолчанию её меньше

Меньше, чем в естественной среде нашего обитания, ввиду того, как цифровые технологии работают по умолчанию.

Именно поэтому возникло законодательство о защите персональных данных: законы наподобие GDPR принуждают разработчиков и операторов цифровых технологий, вопреки их желаниям и стремлениям, восстанавливать то состояние приватности (privacy by design and by default), которым люди пользовались естественным образом до появления цифровых технологий.

По мотивам идей Алана Вестина — Alan Westin, Privacy and Freedom (1967).

Российский законопроект об ИИ: экспресс-обзор ключевых положений

Опубликован для обсуждения проект ФЗ «Об основах регулирования сфер применения технологий ИИ в РФ». Вносится Правительством, планируемое вступление в силу — 1 сентября 2027.

1. В госсектор и на критическую инфраструктуру: только через реестр доверенного ИИ

В ГИС и на значимых объектах КИИ госорганов допускаются только ИИ-модели из реестра доверенных. Условия: подтверждение безопасности (AI safety) от ФСТЭК/ФСБ, обработка данных только в РФ (data sovereignty), подтверждение качества (AI quality) от отраслевых регуляторов. Правительство вправе распространить это на отдельные объекты КИИ за пределами госсектора.

Продвигаются суверенные и национальные модели ИИ — разработка, обучение и данные исключительно в РФ.

2. Защита прав граждан

Прозрачность при продаже и оказании услуг (in-use transparency): при использовании ИИ без участия человека потребитель должен быть уведомлён.

Прозрачность автономных решений (ADM transparency): если решение, затрагивающее права гражданина, принимается ИИ автономно — обязательно уведомление.

Право на отказ от ИИ (right to be not subject to ADM): в установленных Правительством случаях — должна быть обеспечена возможность получения услуги без применения автоматизации.

Оспоримость автоматизированных решений госорганов (contestability): по-видимому, должна обеспечиваться конструктивно, через объяснимость (explainability), что ограничит спектр допустимых ИИ-технологий в этой сфере (похожие положения есть в Регламенте ЕС).

3. Законопроект также устанавливает, помимо прочего:

— обязанности участников правоотношений (разработчик, оператор, владелец сервиса, пользователь): безопасность, документирование, тестирование, мониторинг, инциденты;
— ответственность участников правоотношений и основания освобождения от неё;
— маркировку синтетического контента с opt-out и ответственностью за удаление;
— правила и исключения из общего режима защиты объектов интеллектуальной собственности на стадии их использования для обучения ИИ и при их создании при эксплуатации ИИ;
— возможность запрета и ограничения трансграничного функционирования ИИ;
— пострыночный надзор (postmarket surveillance).

4. Краткое сравнение с Регламентом ЕС по ИИ

Принципиальное отличие: российский законопроект не опирается на технические стандарты (ГОСТ или иные) как механизм имплементации требований закона. В ЕС Регламент по ИИ является частью законодательства о безопасности продукции и построен по NLF — стандарты СЕН/СЕНЭЛЕК дают презумпцию соответствия требованиям закона.

Для систем повышенной опасности в ЕС, в том числе на критической инфраструктуре - в основном декларирование и иногда сертификация, плюс CE-маркировка, для остальных систем - свободный выпуск на рынок.

В российском проекте — разрешительный порядок для критической инфраструктуры и госсектора через реестр, и свободный выпуск на рынок в остальных случаях.

Также Регламент ЕС не содержит требований о суверенитете данных, суверенных моделей и механизмов запрета или ограничения трансграничного применения ИИ.

Николай Дмитрик: тренды в прайваси

Заметка и слайды Николая по следам нашей сессии на WB Privacy & Day сегодня.