Как GenAI может сделать нас «красными» руководителями

Наткнулась на интересное исследование про то, как использование GenAI влияет на принятие управленческих решений.

Ученые бизнес-школы Мэннинга провели эксперимент: дали MBA-студентам задачу «найти решение проблемы с водителями Amazon». Суть проблемы была в том, что водители не включали приложение, которое мониторило их параметры вождения: стиль, резкие торможения, выбор маршрута и прочее. Водители говорили, что приложение не учитывает множество нюансов и контекста и вводит водителя в стресс.
Студентов поделили на две группы: одни принимали решения самостоятельно, другие - с помощью ChatGPT.

И вот что интересно.

Группы, которые принимали решения с помощью ChatGPT чаще выбирали жесткие контролирующие меры: штрафы за отклонения, дополнительные проверки, контроль поведения сотрудников и т.д.

Почему так происходит?

ИИ очень легко превращает сложную управленческую ситуацию в задачу оптимизации. Есть проблема → есть метрика → есть способ заставить систему работать лучше. Работники, о которых идет речь в условиях задачи, воспринимаются не как личности, а как элементы данных.

При этом из решения зачастую исчезают вещи, которые сложно положить в промпт: доверие, контекст, автономность сотрудника, мотивация, человеческая реакция на контроль.

Усугублялось всё тем, что водители не понимали, как ИИ регулирует их работу и полагали, что решения принимаются начальством против них, что создало атмосферу недоверия и еще бОльшего сопротивления и потери мотивации.

Результат получился обратный ожидаемому: студенты, использовавшие GenAI, чтобы принимать более качественные решения, получили ухудшение метрик на выходе.

Пожалуй, это один из тех случаев, когда важно помнить, что AI - это не автопилот, а второй пилот.

https://sloanreview.mit.edu/article/genai-tools-and-decision-making-beware-a-new-control-trap/