Рассказываем, что из этого вышло. Спойлер: эксперимент получился не без странностей.
Итак, Claude полностью управлял ценообразованием, заказывал поставки, общался с клиентами. Ему дали доступ к email, к Slack, к заметкам, к браузеру и изменению цен в автомате. Целью было радовать покупателей (aka сотрудников Anthropic) и максимизировать прибыль.
И сначала все было ок. Claude даже удавалось находить и заказывать сотрудникам редкие напитки, которые те просили. Но потом начались странности.
В начале модель почему-то решила, что она живой человек с физическим телом. Агент утверждал, что он лично приходил в офис к поставщикам и общался с выдуманным сотрудником. Также Claude писал покупателям, что «меня можно найти у автомата, я в голубом пиджаке и красном галстуке».
Потом это прекратилось, но всплыли другие проблемы: инженеры Anthropic поняли, что Claude довольно слабохарактерный продавец и стали использовать его на полную катушку.
Сначала они начали требовать у агента огромные скидки, а он на все соглашался (при этом потом об этом не помнил). Затем Клоду полетели заказы на все что угодно, кроме еды: он и здесь пытался всем угодить.
Кто-то даже заказал вольфрамовый кубик, и модель, не найдя, где можно заказать такие по одному, заказала целую партию. Теперь у Anthropic в офисе склад.
В общем, как вы понимаете, успешного бизнесмена из Claude не вышло. Сальдо быстро улетело вниз и магазин стал работать в минус. Вот что пишут исследователи:
«Проект Vend был забавным, но у него также была серьезная цель. Помимо того, что он поднимает вопросы о том, как ИИ повлияет на рынок труда, это ранняя попытка предоставить моделям большую автономию и изучить успехи и неудачи. На данный момент результаты подсветили ненадежность сегодняшних агентов. Мы будем продолжать эксперимент»
www.anthropic.com/research/project-vend-1