Чувак на Реддите пишет: мы подключили AI-агента отвечать на вопросы про метрики. Все были в восторге — быстро, детально, красиво.

Три месяца спустя выяснилось: агент галлюцинировал цифры. Буквально выдумывал «правдоподобные проценты».

Самое интересное: VP of Sales и CFO принимали решения и продавали их совету директоров по этим цифрам! Обнаружили случайно, когда то-то попросил перепроверить одну цифру.

И у меня есть непопулярное мнение по поводу: AI не виноват.

Это проблема организации, где НИКТО за три месяца не сказал: «подожди, а откуда эта цифра?». Они вообще до AI свои цифры проверяли? Или аналитик Вася тоже мог нарисовать что угодно, и VP of Sales бы точно так же побежал перекраивать территории?

Правило простое: AI — это инструмент генерации драфтов. Не источник истины. Если процесс принятия решений не включает шаг «а давайте проверим», то не AI сломал аналитику. У них ее не было.

// Отдельный респект тому безымянному герою, который попросил перепроверить цифру.