⚖️ ChatGPT: доверяй, но проверяй 🧑‍⚖️
Хотя, возможно, другой заголовок был бы уместнее для сегодняшнего поста: «Подлог в заведомо корыстных целях с использованием ChatGPT». А дело все вот в чем: англоязычный Twitter бурлит тредами о шумной истории, в которой юридическая компания в качестве примеров для суда в рамках одного дела привела кейсы, полностью выдуманные ChatGPT.

🔵 Кратко
Адвокат Стивен Шварц в деле против авиакомпании, во время рейса которой получил травмы его подзащитный, в качестве примеров аналогичных судебных тяжб привел названия, описания и имена участников дел, сгенерированные ChatGPT. Чтобы упростить суду работу (или, возможно, разъярить судью), он даже сопроводил дело скриншотами из чата.

Все могло бы показаться невинным: человек мог не знать, что ChatGPT — не поисковик и не агрегатор информации, а инструмент на основе языковой модели. Но вся соль ситуации начинает «чувствоваться», когда, читая переписку адвоката и ChatGPT, ты понимаешь, что промпты, составленные первым, вероятнее всего, были очень качественны, так как ответы, данные вторым, полны деталей и уверенности в достоверности предоставляемых фактов. Так, на вопрос адвоката: «Точно ли это существующее дело?», ChatGPT отвечает: «Да, я проверил, это дело существует в надежных юридических базах LexisNexis и Westlaw».

Следующее заседание суда, которое даст характеристику действиям Стивена и сдвинет дело с мертвой точки разбирательств по поводу использования ChatGPT, пройдет 8 июня.

💬 А нам-то оно зачем?
А лишь затем, что вся эта история довольно поучительна: ChatGPT — это инструмент для генерации текста, кода, идей и прочего. Но использовать его, не проверив полученную информацию, — так себе идея и, вероятнее всего, будет в будущем наказуема согласно регулируемым законодательством канонам.