«Коммерсант»: сумма штрафов, наложенных в разных странах за используемые в судах неверные ссылки от ИИ, уже исчисляется миллионами долларов

Газета опубликовала исследование, основанное, в том числе, на базе «ИИ-галлюцинаций» в судебных процессах, собранной аналитиком и исследователем из Высшей коммерческой школы Парижа Дамьеном Шарлотеном.

Изначально тревогу забили судьи, потому что ИИ стали использовать подзащитные и адвокаты при подготовке к процессам, и в документах стали появляться ссылки на несуществующие решения, акты и искаженные цитаты.

💬Попытка убедить суд в правильности своей позиции через фальшивые мнения является злоупотреблением, а цитирование ложных выводов с упоминанием имени настоящих судей вредит репутации судебной системы. Судебная система работает лишь тогда, когда и адвокаты, и суды могут полагаться на заявления друг друга💬, — отмечалось в одном из решений американского суда по подобному делу.

Однако сейчас, пишет газета, «галлюцинации нейросетей» встречаются уже и в документах прокуроров, и даже самих судей.

При этом подход к подобным делам в разных странах разный. Например, в Израиле за подобные действия штрафуют часто, но как правило на небольшие суммы, а в США — реже, но штрафы значительно выше.

Как отмечает газета, в России проблема тоже набирает обороты: юристы утверждают, что суды завалены «низкокачественными процессуальными документами, сгенерированными ИИ». При этом этических стандартов работы с нейросетями пока нет, судебная практика по таким делам пока не наработана, но профильные ведомства изучают возможности взаимодействия с ИИ