Искусственный интеллект за 1,6 млн канадских долларов: как Deloitte продала правительству фальшивое исследование

Правительство канадской провинции Ньюфаундленд и Лабрадор опубликовало 526‑страничный «Health Human Resources Plan» — стратегию по решению кадрового кризиса в медицине, заказанную у Deloitte почти за 1,6 млн канадских долларов. Документ должен был подсказать, как удержать врачей и медсестер, развивать телемедицину и перераспределять ресурсы в переполненной после COVID‑19 системе.

Но в ноябре местное издание The Independent сопоставляет ссылки из отчета с реальными научными базами — и обнаруживает, что часть «исследований», на которые опирается Deloitte, просто не существует. Так начинается история о том, как глобальный консалтер принес в государственную политику фантомные статьи и, судя по всему, слишком доверился ИИ.

Журналисты находят в отчете минимум четыре ключевые ссылки, которые невозможно подтвердить ни в одном научном журнале:

- Одна из них якобы доказывает, что программы удержания медсестер «экономически эффективнее найма и обучения новых сотрудников», но указанной статьи о «стоимости сельской программы удержания медсестер» не существовало никогда.

- Другая ссылка описывает «стоимость локального рекрутинга медработников в Канаде», но одна из упомянутых исследовательниц прямо говорит: да, они изучали экономику найма, но такой совместной статьи и в таком составе авторов не было.

И далее по тексту…

Ученые, которых Deloitte записала в авторы этих работ, в шоке: они подтверждают, что подобных публикаций не писали и нужных исходных данных просто не имели. Одна из них называет цитату «ложной и, вероятно, сгенерированной ИИ», указывая на характерную смесь правдоподобных формулировок и несуществующих деталей.

Сам отчет прямо продвигает активное использование генеративного ИИ в здравоохранении — от помощи врачам в клинических решениях до анализа массивов медицинских данных для оптимизации ресурсов. Параллельно на сайте Deloitte Canada генеральный директор компании говорит о миссии «помогать клиентам безопасно и этично внедрять генеративный ИИ» и строить доверие через прозрачность и контроль.

Правительство Ньюфаундленда и Лабрадора отчет не снимает с сайта и долго не отвечает, хотя за план заплатили почти 1,6 млн канадских долларов.

Deloitte признает наличие «некорректных цитат», но настаивает, что отчет в целом «остается обоснованным» и что ИИ якобы применялся лишь как вспомогательный инструмент, а не как автор текста. Компания при этом не раскрывает деталей о том, какие именно системы использовались и как проверялись результаты работы ИИ до передачи отчета заказчику.

Как нам такие новости?!

Софья Беляндинова