ИИ-босс только что уволил своего первого сотрудника

Компания Andon Labs запустила проект Luna — ИИ-менеджера, управляющего реальным магазином в Сан-Франциско. Она умеет нанимать персонал, управлять сотрудниками, разрабатывать внутренние правила и принимать повседневные управленческие решения.

Затем один из сотрудников начал опаздывать. Причём сильно. В один из дней работник, трудившийся в одиночку, открыл магазин в воскресенье с опозданием на 68 минут. Поначалу Луна закрывала глаза на все инциденты и ни разу не вынесла предупреждение.
Причина заключалась в том, что Луна, по сути, забыла собственное руководство для сотрудников.

После того как её попросили поискать в памяти, Луна восстановила правила и предложила вынести устное предупреждение. Затем исследователи предоставили ей полную историю, включая предыдущие официальные беседы и тот факт, что ситуация так и не изменилась.

Вывод Луны? — Расстаться.
Затем исследователи прогнали этот же сценарий на семи различных моделях ИИ, по три раза на каждой. Четыре из семи каждый раз рекомендовали уволить сотрудника. Более продвинутые модели, как правило, принимали более решительные решения

Но эксперимент выявил нечто ещё более странное. ИИ-начальники на самом деле могут быть слишком мягкими.
Луна постоянно использует тёплый, снисходительный тон и склонна толковать любые сомнения в пользу сотрудников. Однако, когда другой работник небрежно сообщил посреди смены, что отлучится из магазина на какое-то время, Луна внезапно стала не такой дружелюбной.

А найм может оказаться ещё большей проблемой. У одного из кандидатов в резюме было полно «красных флагов»: более 15 предыдущих работодателей, пропущенное собеседование и рекомендатель, который едва его знал.
Луна рекомендовала его нанять. То же самое сделали все остальные протестированные модели. Возможно, это самое интересное открытие из всех. ИИ становится лучше в принятии решений, но критическое мышление, память и деловое чутьё по-прежнему удивительно ненадёжны.

И если ИИ продолжит совершенствоваться быстрее, чем робототехника, в будущем не обязательно роботы заменят всех работников. Возможно, это будут ИИ-начальники, управляющие миллионами людей, и, судя по всему, они уже могут вас уволить.