Анализ 520 инцидентов GenAI или насколько опасен ИИ в юриспруденции

Австралийский Центр по Будущему Юридической Профессии UNSW предоставил отчет по датасету из 520 кейсов и 10 юрисдикций (от США до Сингапура) по использованию ИИ в судах.
Отчет интересен подробным описанием решений судов и рекомендациями юристам.
Основные злоупотребления GenAI в судебных разбирательствах:
▪️ придумывает судебные решения, которые никогда не существовали. Адвокаты их цитируют, а судьи тратят время на поиски этих "фантомов".
▪️ создает идеальные, но абсолютно несуществующие юридические статьи, законы или правила.
▪️ генерирует бессвязный текст, который оказывается в официальных судебных бумагах.

Выводы: юристы, которые слепо полагаются на ИИ, уже получают серьезные дисциплинарные взыскания за предоставление ложной информации. Судьям приходится заниматься работой фактчекеров, проверяя каждую сноску, что замедляет рассмотрение дел.

Сам отчет выше отдельным постом.

#AIShelf #UXWatch
————
@pattern_ai