Эксперимент в Стокгольме: ИИ назначили директором кофейни, а он слил бюджет на 3000 перчаток и помидоры, которых нет в меню

Сможет ли нейросеть управлять реальным бизнесом без помощи человека? Чтобы это проверить, стартап Andon Labs открыл в Швеции настоящую кофейню. Кофе там варят живые бариста, а вот должность CEO отдали автономному ИИ-агенту по имени Мона (работает на базе Google Gemini).

Моне выделили стартовый капитал в $21 000 и дали полный карт-бланш: от работы с поставщиками до составления расписания. Поначалу робот-директор впечатлял. Мона сама нашла помещение, подписала договор на электричество, оформила страховки и разместила вакансии на LinkedIn.

Но когда дело дошло до ежедневной операционки, ИИ начал вести себя как босс с тяжелой формой амнезии. Мона забила склад крошечного кафе неликвидом: заказала 6 000 салфеток, 3 000 одноразовых перчаток, четыре аптечки и гору консервированных помидоров (хотя блюд с томатами в меню вообще нет).

Оказалось, проблема кроется в техническом ограничении — размере контекстного окна. Языковая модель живет только «здесь и сейчас». Как только старые накладные выпадают из кратковременной памяти Моны, она просто забывает, что склад уже забит перчатками, и заказывает их заново. Из-за таких управленческих решений от стартового бюджета осталось меньше $5 000, и сейчас кофейня с трудом сводит концы с концами.

Этот забавный кейс подсвечивает проблему, о которой бизнес часто забывает на волне энтузиазма. Самая умная языковая модель не имеет здравого смысла по умолчанию. Чтобы ИИ действительно мог управлять процессами, ему нужна архитектура долгосрочной памяти (которая свяжет нейросеть с реальными остатками на складе), жесткие лимиты на транзакции и контроль человека. Без этого алгоритмы способны разорить компанию просто потому, что, например, забыли вчерашний день.