Консалтинговые компании отзывают отчеты из-за ИИ-галлюцинаций

Компания EY отозвала аналитический отчет по кибербезопасности после того, как в нем обнаружили сгенерированные нейросетью данные. Проверка сервиса GPTZero показала, что документ содержал правдоподобные, но полностью вымышленные ссылки. В качестве примера аналитики приводят взятую из воздуха оценку мирового рынка программ лояльности в 200 миллиардов долларов.

Случай с EY не единичен. Руководитель проверки Ом Огале заявил, что команда GPTZero нашла уже более трех тысяч корпоративных PDF-файлов с фейковыми источниками. С подобной проблемой столкнулась и Deloitte: подготовленные ею материалы с ИИ-галлюцинациями успели попасть в правительственные доклады Канады и Австралии.

Ложная статистика из отчетов оседает в официальных документах, на которых затем обучаются новые языковые модели. В результате выдуманные цифры возвращаются к пользователям уже под видом подтвержденных фактов.

Корпорации используют нейросети для ускорения работы с документами, однако у них пока нет инструментов, способных с такой же скоростью проверять сгенерированную информацию.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX