⚖️Верховный суд Индии запретил использование ИИ для вынесения судебных решений.

Комитет Верховного суда, разработал проект правил, которые запрещают вынесение решений с помощью ИИ без обязательного человеческого контроля, а также запрещают использование «непрозрачных» или «необъяснимых» систем ИИ в любом судебном процессе.

Предложенные правила появились на фоне опасений, по поводу растущей зависимости судов от ИИ при вынесении решений. В марте коллегия под председательством судьи Нарасимхи раскритиковала суды первой инстанции за ссылки на несуществующие решения, сгенерированных с помощью ИИ, отметив, что это не просто «ошибка в принятии решения», а скорее судебное «нарушение».

В документе также содержится предостережение о том, что судебные системы, использующие искусственный интеллект, не должны «усугублять цифровое неравенство» и должны оставаться доступными для всех заинтересованных сторон, включая жителей сельских районов, экономически неблагополучных сообществ или сообществ с различным уровнем владения иностранным языком.

Хотя проект правил разрешает использование ИИ для административных функций, таких как ведение протоколов, составление списков дел, назначение слушаний, стенографирование судебных заседаний и перевод судебных решений, в нем четко указано, что системы ИИ не могут использоваться для «оценки рисков» в судебных процессах.

Для контроля за внедрением ИИ в судебную систему, а также для определения стандартов и разработки политики, в проекте правил предлагается создание постоянного «высшего органа» при Верховном суде.