Не так давно стартап Andon Labs провел эксперимент и передал языковой модели Claude руководство реальным магазином Andon Market в Сан-Франциско.

И вот, спустя несколько месяцев работы искусственный интеллект оформил свое первое увольнение, однако на решительный шаг бот пошел исключительно после настойчивого давления со стороны куратора проекта. Работник умудрился опоздать на 17 смен из 23, но ИИ упорно закрывал на это глаза, просил сотрудников не переживать из-за задержек и банально забыл составленный им же регламент из-за ограничений контекстной памяти.

Куратору эксперимента пришлось буквально заставить модель поднять утерянные инструкции и пересчитать прогулы. Даже после вскрытия систематических нарушений Claude наотрез отказался применять жесткие меры и предложил ограничиться формальным предупреждением. Только когда человек прямым текстом объяснил, что личные беседы больше не работают, и прозрачно намекнул на необходимость расставания, электронный директор наконец согласился избавиться от проблемного сотрудника.

В итоге, за пять месяцев излишне мягкого менеджмента баланс магазина просел со $100 000 до $61 000 💸

Авторы эксперимента отмечают, что нейросети вполне можно натренировать на безжалостную оптимизацию ради показателей прибыли. Однако в руководстве стартапа задаются резонным вопросом, готовы ли сами люди жить и работать в мире, где бескомпромиссные алгоритмы будут хладнокровно выгонять персонал на улицу.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX