✔️ Меня поражает, насколько легко сегодня строятся причинно-следственные связи вокруг AI. Компания внедрила нейросети – показатели ухудшились – виноват AI. А ведь это уровень аналитики, на котором можно доказать вообще что угодно.
Проблема в том, что большинство людей воспринимают внедрение AI как отдельное событие. Но для бизнеса AI – изменение одной из переменных внутри сложной адаптивной системы. А сложные системы почти никогда не реагируют линейно.
Представьте компанию из 1000 человек. Она внедряет AI в процессы клиентской поддержки, а через полгода падает NPS. Значит ли это, что виноват AI? Возможно.
✔️ Но может быть и такое, что за этот же период компания сменила систему мотивации операторов, сократила бюджет на обучение, изменила продуктовую линейку, подняла цены и вышла на новый сегмент аудитории (и – важно! – в СМИ об этом могут даже и не упомянуть).
То есть, результат возникает не из одного фактора, а из взаимодействия десятков факторов одновременно. Это называется проблемой атрибуции.
Вот почему в экономике, медицине и науке так сложно доказать причинно-следственную связь. Для этого нужны контрольные группы, эксперименты, статистическая значимость и годы наблюдений. В бизнесе всего этого обычно нет. Есть одна компания, один набор решений и тысячи внешних переменных, которые невозможно зафиксировать.
Утверждения СМИ о том, что искусственный интеллект стал причиной финансовых потерь, – типичный пример ложной атрибуции. Журналисты хватаются за самое очевидное изменение в жизни компании, и получается что-то вроде зеркальной версии ошибки выжившего.
На практике же в хаотичных и сложных системах самые громкие события часто оказываются лишь фоном, а не главной движущей силой результата.
Ниже продолжу мысль.