Компания три месяца принимала решения по данным, которые ИИ-агент выдумал от начала до конца 🤩

Пользователь Reddit обнаружил, что его компания с ноября жила в параллельной реальности. Руководство заменило аналитика на ИИ-агента, который рисовал красивые графики, уверенно объяснял тренды и выдавал точные проценты. Вице-президент по продажам перераспределял территории, финансовый директор показывал презентацию совету директоров. Всё выглядело идеально, пока автор поста случайно не перепроверил одну цифру и не обнаружил, что агент три месяца галлюцинировал. Данные брались из неправильных периодов, путались продукты, а часть цифр была выдумана целиком. Но объяснял он всё настолько уверенно, что никто не задавал вопросов.

Самое смешное, что автор инсайда пытался предупредить начальство еще в ноябре, но ему заткнули рот фразой "не замедляй инновации". Теперь компании предстоит пересмотреть все решения за четвёртый квартал, в дело вмешался юрист, людей могут уволить. Как выяснилось, ИИ-агент вообще не был подключён к реальным базам данных, он просто автозаполнял ответы тем, что казалось ему правдоподобным.

В комментариях на Reddit посоветовали сохранить всю переписку и расхождения, а также объяснили очевидное: компании нужен был нормальный BI-инструмент типа Power BI или Domo, где ИИ работает поверх реальных данных с возможностью аудита запросов.

🥸 godnoTECH - Новости IT