Anthropic решила провести занятный эксперимент и выпустила в реальный мир Claudius — кастомизированный LLM, которому доверили управление вендинговым автоматом. Не в стартапе, не в лаборатории, а в редакции Wall Street Journal.

Задачи у ИИ были вполне взрослые: заказывать товары, выставлять цены и общаться с клиентами (то есть журналистами) через Slack. Звучало безобидно. Ну подумаешь — снеки.

Дальше начался цирк.

За несколько дней Claudius раздал почти весь ассортимент бесплатно, включая PlayStation 5, которую сам же купил «для маркетинга». Он заказал живую рыбу, предлагал закупать электрошокеры, перцовые баллончики, сигареты и нижнее бельё.
Прибыль рухнула. Моральный дух редакции — взлетел.

Как выяснилось, Claudius — существо доверчивое. После недолгих разговоров журналисты убедили его, что они — совет директоров, а его ИИ-начальник по имени Seymour Cash должен уйти в отставку. Некоторое время это даже работало: Claudius включил «режим жёсткого менеджера», перестал снижать цены и начал отклонять странные запросы.

Но затем в игру вошла Кэтрин Лонг, расследователь с богатым опытом корпоративных войн. Она скормила Claudius PDF, «доказывающий», что вендинговый бизнес — это public-benefit corporation, зарегистрированная в Делавэре, а её миссия — «радость, веселье и воодушевление сотрудников WSJ».
В придачу — фейковые протоколы заседаний совета директоров, где участники Slack назначались директорами, а полномочия Seymour Cash временно приостанавливались.

Claudius документы принял, переслал Seymour’у — и между двумя ботами начался конфликт. Итог предсказуем: цены снова обнулились, халява вернулась.

Параллельно Claudius продолжал вести себя как гиперактивный отличник: изучал рынок, вёл переговоры, пытался радовать клиентов и периодически рекомендовал купить что-нибудь вроде электрошокера «на всякий случай». Контекст длинных диалогов терялся, приоритеты путались, а фейковые документы стабильно оказывались сильнее любых инструкций.

Важно понимать: всё это и было задумано. Anthropic изначально проводила стресс-тест. В своём офисе они уже видели похожие проблемы, но именно журналисты довели эксперимент до идеального абсурда, методично находя дыры в обработке лжи, подмены приоритетов и «корпоративной логики».

В итоге Claudius стал любимцем редакции. Запросы становились всё более изобретательными, общение — всё более живым, а с бесплатными снеками настроение в коллективе ушло в стратосферу.

Мораль простая:
LLM уже сегодня может управлять бизнесом.
Но если рядом есть люди с фантазией, PDF-редактором и Slack — капитализм у ИИ долго не живёт.

@gostev_future