⚠️👁👁👁Искусственный интеллект снова обманул юристов

Очередной скандал с использованием ИИ возник у юридической фирмы в США, работающей по... государственному контракту 🤯

Так, в штате Алабама рассматривался иск заключённого Фрэнки Джонсона, который утверждал, что за полтора года его трижды жестоко избивали другие заключённые, в том числе прямо в наручниках и под присмотром охраны.

Защищать тюремщиков руководство штата наняло старых проверенных партнёров — юридическую фирму Butler Snow, которой только по одному контракту выплатили $15 млн за два года.

⚖️ В общем юрист этой фирмы подал ходатайство, в котором сослался на четыре судебных решения, якобы указывающих на то, что Джонсон лжет.

❗️Судья провела собственную проверку — и не нашла ни одного из упомянутых дел.

Оказалось, что при подготовке ходатайства юрист использовал ChatGPT и не стал проверять сгенерированный им текст. А Искусственный интеллект попросту выдумал все четыре кейса 🤷‍♂️

✍️ Теперь фирму Butler Snow могут ждать санкции: от штрафов до временного запрета деятельности. Сам юрист взял всю вину на себя, признав, что он знал о политике фирмы по запрету на использование ИИ, но нарушил её из-за большой нагрузки и отсутствия достаточного времени для проверки сгенерированного документа.

Фирма принесла извинения и заверила суд, что пересматривает все свои материалы на предмет придуманной ИИ информации и ссылок на несуществующие кейсы.

💬 Ясно одно — юридические фирмы нуждаются в политиках использования ИИ под строгим контролем за их соблюдением.

📌 Другие случаи, когда ИИ обманывал людей — в этой публикации👈

📌 Можно ли доверить ИИ быть судьёй и выносить приговоры в отношении людей — по этой ссылке👈
———
Хотите знать больше?
Подписывайтесь 👈