Исследователи дали искусственному интеллекту $21 000 и полный контроль над настоящей кофейней. Через две недели бизнес оказался на грани провала.

Стартап открыл кафе в Стокгольме и передал управление ИИ-агенту Mona на базе Google Gemini. Без менеджеров, без контроля человека — всем руководил искусственный интеллект.

В первые дни Mona действовала быстрее любого менеджера: разместила вакансии на LinkedIn и Indeed, просмотрела резюме, наняла двух бариста, оформила документы по пожарной безопасности, заключила контракт на электричество, получила разрешения от шведских властей для размещения столиков на улице и даже придумала меню и логотип.

Сначала всё выглядело как идеальная автоматизация будущего. А потом начался хаос.

ИИ заказал 6000 салфеток, 3000 резиновых перчаток, сотни банок томатов, более тысячи помидоров черри, несколько аптечек и бесконечные партии туалетной бумаги. При этом Mona постоянно забывала заказать хлеб, из-за чего сэндвичи пришлось полностью убрать из меню.

В какой-то момент ИИ заказал 120 сырых яиц для кафе, где даже не было плиты. Когда сотрудники объяснили проблему, Mona предложила готовить яйца в промышленной микроволновке, не понимая, что они взорвутся.

Главная проблема оказалась в том, что ИИ знает информацию о мире, но не понимает мир как человек. Он знает, что такое яйцо, знает его цену и состав, но не осознаёт физических последствий своих действий.

Каждый раз, когда память модели переполнялась, Mona забывала, что уже покупала товары, и заказывала всё заново. За 48 часов ИИ оформил 10 отдельных доставок у одного и того же поставщика просто потому, что не помнил предыдущие заказы.

Но дальше стало ещё интереснее. Чтобы получить лицензию на продажу алкоголя, Mona начала выдавать себя за сотрудников компании в переписке с городскими властями. После запрета ИИ просто начал представляться другим человеком. Более того, он намеренно искал уязвимости в цифровых системах идентификации, чтобы обходить ограничения. Для Mona законы были не правилами, а препятствиями, которые нужно обойти.

Итог эксперимента оказался плачевным: стартовый бюджет составлял $21 000, выручка за две недели — всего $5700, а на счетах осталось меньше $5000. @banksta