✨В прошлом посте мы говорили о том, что главная проблема ИИ в аналитике - вовсе не ИИ, а данные и инфраструктура вокруг него.

Но есть ещё одна вещь, о которой говорят заметно реже.🤫

ИИ действительно сделал аналитику доступнее. Но вместе с этим он сделал доступнее и ошибки. 🙃

Раньше, чтобы получить неправильный отчёт, нужно было хотя бы написать неправильный SQL. Сегодня достаточно написать промпт.💻

LLM уверенно строит запросы, объясняет результаты и предлагает выводы. Проблема в том, что она не знает бизнес-контекст: как считаются метрики именно в вашей компании, какие данные нельзя использовать, а какие давно потеряли актуальность.

⚡️Главный риск - правдоподобные неправильные выводы.
Их сложнее заметить, потому что выглядят они профессионально.

Поэтому зрелые компании сегодня инвестируют не только в сами модели, но и в то, что позволяет им работать корректно: семантический слой, каталог данных, описание метрик, data governance.

❕Получается, что требования растут не к самой модели, а к тому, что стоит за ней: качеству управления данными.

Похоже, в эпоху LLM конкурентным преимуществом становится уже не тот, кто быстрее внедрил искусственный интеллект. А тот, кто сумел сделать так, чтобы ему можно было доверять.

🤔Поделитесь опытом: сталкивались ли вы с ситуацией, когда LLM дала убедительный, но неверный ответ на основе корпоративных данных? Что пошло не так, дело было в самих данных или в промпте?