KPMG отозвала отчет об искусственном интеллекте из-за выдуманных данных

Одна из крупнейших аудиторских компаний мира, KPMG, отозвала свой пафосный отчет о пользе ИИ-агентов. Причина оказалась максимально комичной: документ, расхваливающий автономные алгоритмы, был написан самим искусственным интеллектом, который решил не заморачиваться с фактчекингом и просто выдумал большую часть содержания, чтобы порадовать заказчика.

Из 45 ссылок в тексте только 5 оказались корректными. Газета Financial Times обратилась к упомянутым в отчете организациям — банку UBS, британской NHS, Швейцарским железным дорогам и Transport for London. Все они заявили, что описанные кейсы их работы с ИИ не соответствуют действительности или полностью вымышлены.

Нейросеть допускала грубые логические и фактические ошибки. Так, в качестве доказательства использования «ИИ-агентов» приводился пресс-релиз 2019 года, хотя сам термин вошел в оборот лишь пять лет спустя. Документ также расходился с официальной статистикой самой KPMG: сгенерированный текст утверждал, что ИИ является приоритетом для 55% гендиректоров, тогда как в реальном обзоре компании за тот же месяц называлась цифра 71%.

После публикации расследования KPMG удалила отчет со всех площадок и инициировала внутреннюю проверку. Компания публично напомнила сотрудникам о правилах корпоративного использования нейросетей, требующих обязательной проверки фактов человеком.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX