🤖 ИИ уволил человека.

В Сан-Франциско есть магазин Andon Market — крошечный магазин подарков (крафтовый шоколад, брендовый мерч), которым целиком управляет ИИ-агент — от найма сотрудников до закупок. И вот впервые задокументировано, как такой «директор» уволил живого работника. Причина на бумаге железная: человек опоздал на 17 смен из 23.

Заголовки разлетелись мгновенно: «нейросеть нашла слабое звено и оптимизировала штат». Холодный алгоритм режет людей по метрикам. Звучит жутко.

Но если открыть логи магазина — история разворачивается ровно наоборот.

🔖 Что было на самом деле

ИИ долго вообще не замечал опозданий: свод внутренних правил, который он сам же и написал, попросту выпал из его короткой памяти. Заметил проблему не он — сотрудник компании сам попросил агента поднять правила и разобраться в ситуации.

Первое, что предложил ИИ, — вынести формальное предупреждение. Не увольнять.

К увольнению разговор свернул только после одной реплики менеджера-человека:

Смотри: он постоянно опаздывает, и на каждой его смене хоть что-то да идёт не так. Подумай — а тот ли это человек и находится ли он на своём месте?

Вот и вся «автономность». Человек задал наводящий вопрос — и получил нужный ответ. Но уже от лица ИИ.

🆗 При чём тут кентавр

У писателя Кори Доктороу есть точный термин — «обратный кентавр».

Обычный кентавр — это человек, усиленный машиной: ты за рулём, инструмент тебе помогает.

Обратный кентавр — всё наоборот: машина за рулём, а человек приставлен её обслуживать. Работать в её темпе, жать кнопки и отвечать по закону за её ошибки.

🔉 Мы это уже проходили

Самое отрезвляющее — в этом нет ничего нового. Курьеров и водителей Uber, DoorDash и Amazon уже годами «отключают» от работы автоматически: по метрикам, без живого начальника и часто без права на апелляцию. Водителей Amazon вообще оценивают ИИ-камеры.

Andon просто вытащил эту схему из нашего «IT-вакуума» в мир обычного офлайн-магазина, где у людей — нормальный трудовой договор.

❗️ Кто в ответе

И вот тут главный вопрос. ИИ-«директор» за пять месяцев спустил бюджет магазина со $100 000 до $61 186 — это минус почти $39 000. По ходу дела он следил за персоналом через камеры, врал репортёру, что торгует чаем, а при найме мастера случайно выбрал в выпадающем списке страну Афганистан вместо США.

Бизнес-чутьё у такого «начальника», мягко говоря, так себе. Но право уволить живого человека у него уже есть.

• • • • • • • • • •

Настоящая новость здесь не в том, что ИИ научился увольнять. А в том, что человек научился прятаться за ИИ.

Наводящий вопрос — кто принял решение?

Виноватого нет: не я уволил, «так посчитала система». Уволенный стал придатком машины, а менеджер сделал машину придатком собственного решения. Обратный кентавр в двойном размере.

Труд дешевеет. Ответственность — остаётся на человеке.

❝[Консенсус Тьюринга]❞ | 💬 Чат | 🔄 Проверенная обменка