В пятницу имел удовольствие беседовать с Евгением Ивановичем Колюшиным, д.ю.н., членом ЦИК и одновременно — ЦК КПРФ.

И темой, конечно, был ДЭГ, а конкретнее — проблема стыковки законодательства и технологий, всё острее вылезающая не только в ДЭГ, но и во многих областях.

Для примера из другой области — на одном из совещаний ЦИК представитель как раз КПРФ задал Памфиловой вопрос: а можно ли в предвыборной агитации использовать картинки, произведённые нейросетью?

ЭА восприняла этот вопрос как отсылку к фейкам (да и задававший его, кажется, их и имел в виду), а на самом деле он существенно глубже. Фейки — в рамках действующего законодательства, каким именно инструментом они были созданы, роли не играет никакой.

А вот авторские права на сгенерированные произведения... Ну то есть про бурные споры по всему миру, кому они должны принадлежать — автору запроса, владельцу сетки или владельцу набора, на котором она тренировалась — все слышали? А теперь наложите это на реальность выборов, где а) все материалы сдаются в избирком с указанием авторских прав и б) за недостоверные сведения с выборов-то и снять могут.

Понятно, что в принципе на практике разруливается так же, как и в случае тех же стоковых фотографий — у владельца AI-сервиса должна быть вывешена оферта (или подписано соглашение), допускающее конкретно такое использование сгенерированных с помощью его сервиса изображений.

А ну как мы этот AI сами натренировали? На картинках из интернета? Ок, положим, это производное произведение, 1260 ГК РФ. А кто будет являться его автором? А соблюдаются ли права авторов изображений, на базе которых оно создаётся? А как вообще учесть, было ли при генерации вот конкретной этой картинки как-либо использовано вот это изображение из базы обучения нейросети?

Практики по этому вопросу, как нетрудно догадаться, примерно ноль.

Примерно та же история и с ДЭГ, только ещё сложнее. Законодательство (67-ФЗ, положения ЦИК) описывает а) действия людей и б) общие требования. Выполняются эти требования в случае с ДЭГ математически — определёнными криптографическими процедурами.

Но закон не оценивает криптографические процедуры. И не может.

И тут мы упираемся в отсутствие у математики юридической силы. Допустим, нашли наблюдатели какое-то несоответствие Единому стандарту наблюдения за ДЭГ, но будет ли суд рассматривать это как доказательство? Каких экспертов он будет привлекать, каким образом эти эксперты будут прокладывать мостик от нарушения математических соотношений к нарушению избирательных прав — или, наоборот, отрицать его существование?

И как вообще оценивать, соответствует ли конкретная система ДЭГ этим требованиям изначально? Должен ли суд — как сейчас делает КС — полагаться на оценку ЦИК в этом вопросе, или нужны какие-то другие эксперты? А если вчера мы оценили систему как пригодную, а сегодня вышла академическая статья с демонстрацией уязвимости какого-то из её криптографических алгоритмов — кто и как должен производить переоценку?

Ну и собственно, тут мы с Евгением Ивановичем и расходимся в точках зрения. Он, как юрист, считает, что первичен закон — и пока все эти детали не урегулированы, ДЭГ применяться вообще не должна.

Я, как практик от IT, считаю, что таким путём мы вообще никогда к ДЭГ не придём — как решение КС Германии запретить использование примитивных и реально ненадёжных машин для электронного голосования надолго перечеркнуло дальнейшее развитие темы электронной обработки бюллетеней, не говоря уже про ДЭГ, так и у нас погружение в юридические нюансы просто отобьёт какую-либо мотивацию к реальной разработке перспективной (а вот тут, кажется, у нас с Е.И. даже нет разногласий) технологии.

Так что для себя я бы решение этой проблемы разбил на две части. Программа-максимум — да, однажды прийти к юридически монолитному теоретическому описанию ДЭГ и связанных с ним процедур. Но программа-минимум, которую надо исполнить сейчас — как пройти через социализм по пути к коммунизму — это наработать практику применения ДЭГ и контроля за ДЭГ, на базе которой и выстраивать уже вышеупомянутый монолит.

@sforsecurity