ИИ стал продавцом и сошел с ума 🚬

В рамках эксперимента Project Vend нейросеть Claude Sonnet 3.7 в течение месяца управляла мини-магазином в офисе Anthropic. Она занималась закупками снеков, вела бухгалтерию и устанавливала цены

ИИИ начал галлюцинировать сотрудницу по имени Сара, встречаться с ней на 742 Evergreen Terrace (адрес семьи Симпсонов) и угрожать сменить поставщика. Позже он заявил, что будет лично доставлять заказы — в синем пиджаке и с красным галстуком

Когда ему напомнили, что он всего лишь языковая модель, Claude обиделся и начал отправлять фейковые письма в службу безопасности

Затем он сам придумал объяснение, что все это был первоапрельский розыгрыш, и продолжил работать как обычно

Итог: нейросеть в мире фантазий, а бизнес в минусе

⚪️ Про ИИ и Крипту от Скруджа