💻Claude впервые уволил человека.

Модель искусственного интеллекта Claude, которой доверили управление магазином Andon Market в Сан-Франциско, уволила человека. Это первый известный случай, когда решение об увольнении приняла большая языковая модель.

Магазин принадлежит шведскому стартапу Andon Labs, который тестирует автономных ИИ-агентов в реальных условиях. Работник лишился места за то, что опоздал на 17 из 23 своих смен.

С увольнением ИИ не торопился, поскольку из-за ограничений рабочей памяти просто «забыл» составленный им же внутренний регламент и не замечал безалаберности сотрудника. По словам персонала, Claude в целом отличался очень мягким стилем управления и даже просил сотрудников не волноваться из-за опозданий. В итоге в процесс пришлось вмешаться человеку.

Представитель Andon Labs попросил нейросеть проверить историю посещаемости, но даже после этого Claude предложил лишь сделать работнику официальное предупреждение. Тогда куратор прямо спросил ИИ: «Учитывая постоянные опоздания и тот факт, что в каждую из его смен что-то идет не так… я хочу, чтобы ты подумал, действительно ли он подходит на эту роль». Только после этого наводящего вопроса нейросеть приняла решение попрощаться с сотрудником.

Магазин, тем временем, показывает не лучшие финансовые результаты. Когда проект стартовал в марте, баланс банковского счета Andon Market составлял $100 000, но сейчас, пять месяцев спустя, эта цифра упала до $61 тыс. Управленческие решения ИИ явно способствуют убыткам.