👨‍💻 Адвокат в Нью-Йорке. 30 лет стажа. Попросил ChatGPT найти судебные прецеденты для иска. ChatGPT выдал шесть дел — с номерами, цитатами, именами судей. Адвокат вставил в документ и подал в суд.

Все шесть дел были выдуманы. Номера — фейковые. Цитаты — фейковые. Судьи настоящие, но дела никогда не рассматривали.

И знаете, что он сделал, когда ему сказали, что дел не существует? Он попросил ChatGPT проверить. ChatGPT сказал: «Нет-нет, дела настоящие». То есть ИИ соврал — а потом соврал, что не врал.

💰 Штраф — 5 000 долларов. И это был 2023 год. Сейчас таких случаев — 1 300. Два-три новых каждый день. Можете загуглить — дело Мата против Авианка.
Думаете, это только с юристами?

🤖 Я свой доклад для Merge писал вместе с ИИ. В тексте есть шутка про эталонного пользователя, который хранится в Международном бюро мер и весов. ИИ уверенно написал — «в Швейцарии». Бюро находится во Франции. В Севре. Я поймал. А если бы не поймал — вы бы сейчас услышали красивую шутку с фейковым фактом. И никто бы не заметил. Вот это и есть главная опасность — ИИ врёт убедительно.

Именно поэтому у меня теперь есть отдельный ИИ-агент, который занимается только факт-чекингом. Один ИИ пишет — другой проверяет. Да, я использую ИИ для проверки ИИ. Звучит абсурдно, но работает лучше, чем не проверять вообще. Кому интересно — после доклада поделюсь, как это настроить.

Подробнее расскажу на конференции:
https://uexpert.ru/vystuplenie-na-konferentsii-merge-v-innopolise-kazan-2026/